Mobile-Menu

Sophos-Report ChatGPT als Security-Co-Pilot

Von Barbara Gribl 2 min Lesedauer

Anbieter zum Thema

Sophos Technology GmbH
Infinigate Deutschland GmbH
WatchGuard Technologies GmbH
mibeca GmbH – Mike Bergmann Akademie

ChatGPT könnte neue Gefahren mit sich bringen. Es könnte aber auch bei IT-Sicherheit unter die Arme greifen. Sophos beleuchtet im Report und anhand von Untersuchungen, inwiefern das GPT-3-Sprachmodell zur Cyberverteidigung eingesetzt werden könnte.

Ergebnisse des Sophos-Reports zeigen: ChatGPT könnte als nützlicher Security-Co-Pilot fungieren.(Bild: Dave - stock.adobe.com)
Ergebnisse des Sophos-Reports zeigen: ChatGPT könnte als nützlicher Security-Co-Pilot fungieren.
(Bild: Dave - stock.adobe.com)

„Seit der Vorstellung von ChatGPT durch OpenAI im November 2022 hat sich die Sicherheitsbranche weitgehend auf die potenziellen Risiken konzentriert, die diese neue Technologie mit sich bringen könnte“, so Sean Gallagher, Principal Threat Researcher bei Sophos. „Wir bei Sophos sehen KI seit jeher als Verbündeten und nicht als Feind für die Verteidigung“, führt er weiter aus. Beispielsweise könnte man GPT-3-Sprachmodell zur Abwehr von Angreifern nutzen.

Die Forscher von Sophos X-Ops arbeiten an drei Prototyp-Projekten, die das Potenzial von GPT-3 als Assistent für Verteidiger demonstrieren. Dabei wird eine Technik namens „few-shot learning" genutzt. Bedeutet: Das KI-Modell wird mit wenigen Datenproben trainiert. So wird die Notwendigkeit verringert, eine große Menge an vorklassifizierten Daten zu sammeln.

Wir glauben, dass GPT-3 in Zukunft sehr wohl ein Co-Pilot für Sicherheitsexperten werden kann.

Sean Gallagher, Sophos

Die Prototyp-Projekte in einzelnen Schritten

Die erste Anwendung, die Sophos mit der „few-shot learning"-Methode getestet hat, war ein Natural Language Query Interface zum Durchsuchen bösartiger Aktivitäten in der Telemetrie von Sicherheitssoftware. Sophos hat das Modell mit der eigenen Endpoint Detection and Response-Lösung geprüft. Mit dieser Schnittstelle können Verteidiger die Telemetrie mit einfachen englischen Befehlen filtern, ohne SQL oder die zugrunde liegende Struktur einer Datenbank verstehen zu müssen.

SQL, die Abkürzung steht für Structured Query Language, ist eine standardisierte Programmiersprache zur Verwaltung relationaler Datenbanken. Die SQL-Schnittstellen ermöglichen den Zugang zu gespeicherten Daten. Diese lassen sich durch SQL-Befehle relativ einfach einfügen, verändern oder löschen.

Des Weiteren testete Sophos einen neuen Spam-Filter mit ChatGPT. Die Feststellung: Der Filter mit GPT-3 war im Vergleich zu anderen maschinellen Lernmodellen für die Spam-Filterung deutlich genauer. Schließlich konnten die Forscher ein Programm erstellen, welches das Reverse-Engineering der Befehlszeilen von LOLBins vereinfacht. Solche „Living Off the Land Binaries" sind eigentlich harmlose Befehlszeilenprogramme, die Teil des Betriebssystems sind, aber von Angreifern für ihre Zwecke missbraucht werden. Ein solches Reverse-Engineering ist bekanntermaßen schwierig, aber auch entscheidend, um deren Verhalten zu verstehen und diese Art von Angriffen in Zukunft zu unterbinden.

Der Fachkräftemangel ist in aller Munde, Unternehmen kämpfen mit Ressourcen. GPT-3 könnte arbeitsintensive Prozesse vereinfachen. „Wir arbeiten bereits daran, einige der genannten Prototypen in unsere Produkte zu integrieren“, ergänzt Gallagher.

Der aktuelle Report „GPT for You and Me: Applying AI Language Processing to Cyber Defenses" beschreibt Projekte, die von Sophos X-Ops entwickelt wurden und die umfangreichen Sprachmodelle von GPT-3 nutzen
Ziel ist die vereinfachte Suche nach bösartigen Aktivitäten in Datensätzen von Sicherheitssoftware, das genauere und schnellere Filtern von Spam sowie die schnellere Analyse von Binär-Attacken (LOLBin).
Das KI-Modell könne laut Sophos-Experten bösartige Aktivitäten in XDR-Telemetriedaten leichter filtern, Spam-Filter verbessern und die Analyse von „Living Off the Land Binaries" – kurz „LOLBins" – vereinfachen.

(ID:49265298)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte

Jobs