Mobile-Menu

Anthropic-Vorstoß Amerikanische KI-Bosse für verlangsamte Entwicklung

Von Andrej Sokolow, dpa 4 min Lesedauer

Anbieter zum Thema

Sangfor Technologies
European IT Consultancy EITCO GmbH

Seit Jahren gibt es Aufrufe, die KI-Entwicklung zu verlangsamen. Nach einem jüngsten Zwischenfall mit eigenständig handelnden KI-Agenten gibt es nun bei den großen Entwicklern Künstlicher Intelligenz erste Bewegung in diese Richtung.

Nach von KI-Agenten durchgeführten Hacking-Angriffen plädieren große amerikanische KI-Bosse allen voran Anthropic-Chef Dario Amodei dafür, die KI-Entwicklung zu verlangsamen. (Bild: Midjourney / KI-generiert)
Nach von KI-Agenten durchgeführten Hacking-Angriffen plädieren große amerikanische KI-Bosse allen voran Anthropic-Chef Dario Amodei dafür, die KI-Entwicklung zu verlangsamen.
(Bild: Midjourney / KI-generiert)

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen. Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.

Eigenständige Hacking-Attacken

Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag. Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.

Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Musk, lange ein Kritiker Amodeis, schrieb auf X: „Dario hat recht.“

Kein OpenAI-Börsengang in diesem Jahr mehr

Altman sagte zudem dem Magazin Fortune, der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies vor allem auf die aktuelle Debatte: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“ Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“

ChatGPT löste vor mehreren Jahren den aktuellen Hype um Künstliche Intelligenz aus. OpenAI dürfte beim Börsengang nicht nur Dutzende Milliarden Dollar einnehmen, sondern auch eine sehr hohe Bewertung erzielen. Die Aktienplatzierung wird schon länger geplant.

Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus - und sprachen sich zudem untereinander ab.

Warnung von „katastrophalem Schaden“

Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten „katastrophalen Schaden“ hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump - ist der Wettlauf mit China.

Trump beschwichtigt – Obama mahnt

Trump spielte die Sorgen auch jetzt wieder herunter. Die USA seien bei Künstlicher Intelligenz China weit voraus und führend in der Welt, weil der Erfolg bei KI essenziell für die Zukunft sei, sagte Trump am Rande seines Besuchs in Irland. Man könne die Technologie mit Leitplanken versehen. Zugleich sprach Trump von „negativen Kräften“, die sich zu dem Thema äußerten.

Auch Trumps Wirtschaftsberater Kevin Hassett nannte KI-Sicherheit ein „lösbares Problem“ - bewertete die Vorschläge von Amodei aber positiv. Sie seien „ein guter Schritt vorwärts“, sagte er beim Sender Fox News.

Unterdessen erkannten die US-Demokraten, die bei den Kongresswahlen im November Trumps Republikanern die Mehrheiten in Repräsentantenhaus und Senat abzunehmen hoffen, unterdessen die Brisanz des Themas. Ex-Präsident Barack Obama rief die Demokraten der New York Times zufolge auf, politische Strategien zu entwickeln, um diesem Thema in den kommenden Jahren Priorität einzuräumen. Präsidentschaftskandidaten für das Jahr 2028 sollten das Thema Künstliche Intelligenz zu einem zentralen Anliegen machen.

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Anthropic-Forscher warnt

Die Debatte war in den vergangenen Tagen noch von einem jungen Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“, erklärte Jacob Coxon.

Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.

Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.

In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind.

Deutscher Verband: In eigene Modelle investieren

Der Vorstandsvorsitzende des KI-Bundesverbandes, Rasmus Rothe, vermutet unterdessen „knallharte wirtschaftliche Interessen“ hinter den Warnungen amerikanischer KI-Labore. Einerseits gebe es eine „wachsende Furcht vor massiven Haftungs- und Schadensersatzrisiken, wenn fehlerhafte Modelle in Firmenumgebungen echten Schaden anrichten“. Zum anderen befeure die Warnung die Bewertungen mit Blick auf anstehende Börsengänge. Anders als die USA habe die EU einen klaren rechtlichen Rahmen für KI geschaffen und man müsse in Europa „massiv in wettbewerbsfähige eigene Modelle“ investieren.

(ID:50952737)

Weiterführende Inhalte