Anfällig durch Open Source So könnten Cyberkriminelle DeepSeek für Angriffe nutzen

Anbieter zum Thema

Tenable Network Security GmbH

Sophos Technology GmbH

G DATA CyberDefense AG

WatchGuard Technologies GmbH

Öffentlicher Quellcode, Datenlecks, China. Die Künstliche Intelligenz-Anwendung (KI) „DeepSeek“ birgt massive Datenschutz-Risiken. Eine weitere Gefahr: Cyberkriminelle, die sich die Open-Source-Architektur zu Nutze machen, um die KI für ihre Zwecke zu missbrauchen.

DeepSeek löste kurz nach der Veröffentlichung von „DeepSeek-V3“ und „DeepSeek R1“ einen weltweiten Aufschrei bei Sicherheits-Experten aus. Der Datenschutz sei bei der chinesischen Anwendung massiv gefährdet. Die taiwanische Regierung warnt die eigenen Behörden vor der Nutzung der Anwendung, aus Angst die nationale Informationssicherheit zu gefährden.

KI-Wettrüsten

DeepSeek sorgt für KI-Kollision

Italien blockiert DeepSeek

Italien hat den Dienst in der vergangenen Woche sogar gesperrt. In der dazu veröffentlichten Meldung des italienischen Datenschutzministerium heißt es:

„Die Einschränkungsanordnung – erlassen zum Schutz der Daten italienischer Nutzer – folgt auf die heute eingegangene Mitteilung des Unternehmens (DeepSeek), deren Inhalt als völlig unzureichend erachtet wurde. Im Gegensatz zu den Feststellungen der Behörde erklärte das Unternehmen, dass es in Italien nicht tätig sei und dass europäisches Recht nicht auf sie anwendbar sei. Neben der Anordnung der Einschränkung der Verarbeitung hat die Behörde auch eine Untersuchung eingeleitet.“

In Deutschland, Südkorea, Irland, Frankreich, Australien und den USA ist der Dienst umstritten und steht unter Beobachtung. Nachdem US-Amerikanische Sicherheitsforscher eine Datenbank mit sensiblen DeepSeek-Daten im Netz gefunden haben, steigen die Bedenken weiter.

Benutzereingaben öffentlich einsehbar

Datenbank mit sensiblen DeepSeek-Daten stand offen im Netz

Doch der Datenschutz ist nicht die einzige Bedrohung, die von DeepSeek ausgeht. Cyberkriminelle können den Open-Source-Aufbau von DeepSeek nutzen, um Schaden anzurichten.

Diese Gefahr sieht auch Chester Wisniewski, Global Field CTO bei Sophos: „Da DeepSeek auf Open Source aufbaut, kann es sowohl von kriminell motivierten Personen als auch neutralen Enthusiasten sondiert und erforscht werden. Wie bei Large Language Model Meta AI (Llama) kann mit DeepSeek frei experimentiert werden und die Schutzplanken lassen sich weitgehend entfernen. Dies könnte zu einem Missbrauch durch Cyberkriminelle führen.“ Wisniewski glaubt jedoch nicht, dass der durchschnittliche Cyberkriminelle genug Ressourcen besitzt, um DeepSeek professionell zu betreiben.

DeepSeek-Wrapper könnten bereits entwickelt werden

Satnam Narang, Senior Staff Research Engineer, Tenable, aüßert ähnliche Bedenken, was den Open-Source-Aufbau betrifft: „Das Release von DeepSeekv3 und der leistungsstärkeren Version DeepSeek-R1 als Open Source macht Large Language Models (LLMs) praktisch jedem auf der Welt zugänglich. Das Problem bei der Sache: Im Gegensatz zu Closed-Source-Modellen, die innerhalb gewisser Leitplanken operieren, sind Open Source LLMs anfälliger für Missbrauch. Wir wissen noch nicht, wie schnell Cyberkriminelle die DeepSeek-Modelle für ihre Zwecke instrumentalisieren. Doch wenn frühere Entwicklungen ein Indikator sind, hat der Wettlauf längst begonnen.“

Narang befürchtet, dass Cyberkriminelle bereits Tools für DeepSeek entwickeln: „Für Cybercrime konzipierte LLMs optimieren in der Regel den Text-Output, den Scammer und Cyberkriminelle für Finanzbetrug oder die Verbreitung von Malware nutzen. Wir wissen, dass Cybercrime-Tools wie „WormGPT“, „WolfGPT“, „FraudGPT“, „EvilGPT“ und das neu entdeckte „GhostGPT“ in Untergrund-Foren gehandelt wurden. Für eine Prognose ist es noch sehr früh, aber es würde mich nicht überraschen, wenn die Entwicklung von DeepSeek-Wrappern – sprich Tools, die auf DeepSeek basieren und für Cybercrime konzipiert sind – oder die zweckgerichtete Modifizierung bestehender Modelle durch Cyberkriminelle rasant an Fahrt aufnehmen würde.“

Gastkommentar

DeepSeek: Ein Albtraum für die digitale Sicherheit!

(ID:50309808)