ChatGPT Wie einfach kann die Text-KI missbraucht werden?

Von Dominik Bunk

Anbieter zum Thema

Die KI ChatGPT kann nicht nur Texte schreiben, sondern auch Skripte. Das wollen dem Cyber-Security-Unternehmen Check Point zufolge Hacker nutzen, um Kosten zu sparen. Auch CyberArk setzt sich mit dem Sicherheitsaspekt der KI auseinander.

Neben Text kann ChatGPT auch Skripte erzeugen.
Neben Text kann ChatGPT auch Skripte erzeugen.
(Bild: sompong_tom - stock.adobe.com)

Der Cyber-Security-Anbieter Check Point Research beobachtete Versuche russischer Hacker, Einschränkungen von OpenAI zu umgehen, um die Text-KI ChatGPT für bösartige Zwecke zu nutzen. In Untergrundforen diskutierten Hacker darüber, wie sie die Kontrollen von IP-Adressen, Zahlungskarten und Telefonnummern überbrücken können – all das sei notwendig, um von Russland aus Zugang zu ChatGPT zu erhalten.

Das Unternehmen teilte Screenshots von Chats, die aus dem Underground-Hacking-Forum stammen sollen und warnt vor dem „schnell wachsenden Interesse von Hackern aller Länder an ChatGPT, um ihre kriminellen Kreise zu erweitern“.

Auf den Bildern sind unter anderem Einträge zu sehen, bei denen Nutzer fragen, wie sie am besten mit einer gestohlenen Zahlungskarte für einen aufgerüsteten Account bei OpenAI, der Zugang zu leistungsfähigeren und spezialisierteren Modellen und Funktionen ermöglicht, bezahlen können, oder wie die Geokontrollen umgangen werden können.

Zu schwache Geofencing-Maßnahmen?

Es sei nicht besonders schwierig, OpenAIs Beschränkungen für bestimmte Länder zu umgehen, um Zugang zu ChatGPT zu erhalten, so die Experten von Check Point Research. Sie glauben, dass diese Hacker versuchen werden, ChatGPT in ihre täglichen kriminellen Operationen zu implementieren und dessen Fähigkeiten zu testen. Cyberkriminelle interessierten sich zunehmend für ChatGPT, da die dahinterstehende KI-Technologie einem Hacker helfen könne, Kosten zu sparen.

Auch das IT-Security-Unternehmen CyberArk setzt sich mit dem Sicherheitsaspekt von ChatGPT auseinander. Zwar lassen Begrenzungen seitens OpenAI etwa Kommandos nicht zu, die der KI befehlen, Malware zu schreiben. Doch das lasse sich auf verschiedene Weisen umgehen. Unter anderem durch verschiedene Fragestellungen und Befehle konnten das CyberArk-Team polymorphe Malware erzeugen.

(ID:49025146)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung