Mobile-Menu

Debatte um KI-Sicherheit Über Tausend Tech-Mitarbeiter fordern Bremse für KI

Quelle: dpa 1 min Lesedauer

Anbieter zum Thema

EBV Elektronik GmbH & Co. KG
Infinigate Deutschland GmbH
WatchGuard Technologies GmbH

Mehr als 1.000 Beschäftigte von OpenAI, Google, Meta und Anthropic warnen vor einem Kontrollverlust durch selbstlernende KI. Sie fordern internationale Regeln, um das Tempo zu bremsen – auch nach einem Hackerangriff durch eine KI.

Die Hoheit über die Steuerung von KI-Modellen steht auf dem Spiel. Nun gibt es eine Petition, die für mehr Sicherheit plädiert.(Bild: © sp3n - stock.adobe.com)
Die Hoheit über die Steuerung von KI-Modellen steht auf dem Spiel. Nun gibt es eine Petition, die für mehr Sicherheit plädiert.
(Bild: © sp3n - stock.adobe.com)

Mehr als 1.000 Mitarbeiter führender KI-Entwicklerfirmen sprechen sich dafür aus, die Voraussetzungen zum Bremsen des Fortschritts bei Künstlicher Intelligenz zu schaffen. Sie warnen vor einem Kontrollverlust und appellieren an die US-Regierung, sich an internationalen Bemühungen für technische und Regulierungs-Maßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.

Unter den bislang 1.171 Unterzeichnern sind führende Forscher und Manager etwa vom ChatGPT-Entwickler OpenAI, dem Konkurrenten Anthropic sowie dem Facebook-Konzern Meta und Google. Sie verweisen darauf, dass Software mit Künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln.

Risiko sei real

Schon jetzt werden große Teile des Programmiercodes in Tech-Unternehmen von KI-Software geschrieben – aber unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung Künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt. Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein „reales Risiko“, dass das Tempo „unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren.“

Abgestimmte internationale Anstrengungen seien nötig, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen, heißt es in dem Brief. Zudem fehlten aktuell noch die technischen Mittel und ein Regelwerk dafür.

KI-Hackerangriff als Weckruf

Der offene Brief folgt auf einen aufsehenerregenden Zwischenfall, der in großen Teilen der Tech-Branche als Weckruf gesehen wird. Ein KI-Modell von OpenAI verschaffte sich bei einem Test eigenständig Zugang zum offenen Internet und drang danach auf eigene Faust in Computersysteme einer anderen KI-Firma. Dabei agierte die Software wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus.

(ID:50913102)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte