AI Impact Summit in Indien Welche Auswirkungen hat KI – auf die Sicherheit, auf die Menschheit?

Anbieter zum Thema

WatchGuard Technologies GmbH

Fsas Technologies GmbH

mibeca GmbH – Mike Bergmann Akademie

Viele haben sich an ChatGPT und andere nette KI-Helfer gewöhnt: Reiseplanung, Alltagsfragen, Assistenz im Job. Mit rasanter Entwicklung der Technologie kommen aber neue Warnungen vor Gefahren.

Was passiert, wenn aus den heute noch harmlos wirkenden Chat-Assistenten wie ChatGPT durch schnelle technologische Sprünge eine Superintelligenz wird, die den Menschen bei fast allen geistigen Aufgaben übertrifft, die in der Lage ist, selbstständig zu handeln, strategisch vorzugehen und vielleicht sogar die Kontrolle übernimmt? Science Fiction? Nicht unbedingt.

‚AI Impact Summit‘ in Neu Delhi

In Neu Delhi treffen sich dieser Tage Staats- und Regierungschefs, Minister und Chefs großer Tech-Firmen zum „AI Impact Summit“ und beraten über die Auswirkungen von KI. Gesprächsthema ist auch die Sicherheit und die Frage, wie gefährlich die Technologie werden könnte, bei allen Fortschritten, die sie mit sich bringt. Bundeskanzler Friedrich Merz (CDU) hat seinen Fachmann dafür geschickt: Digitalminister Karsten Wildberger (CDU).

Der ehemalige MediaMarktSaturn-Chef steht der Technologie qua Amt grundsätzlich positiv gegenüber. Ein blinder „Technikverherrlicher“ sei er aber nicht, sagt er auf dem Flug nach Delhi vor Journalisten. „Ich sehe da schon auch Gefahren und Herausforderungen“. Wildberger weist darauf hin, dass Risiken bereits heute sichtbar würden, ohne dass es eine Super-KI brauche. Wenn man etwa einen Großteil gewohnter Tätigkeiten an KI übergebe, sei das ein erster Schritt in eine Abhängigkeit.

Apokalyptisches KI-Szenario

Im Buch mit dem apokalyptischen Titel ‚If anyone builds it, everyone dies‘ sprechen die US-KI-Forscher Eliezer Yudkowsky und Nate Soares eine düstere Warnung aus: Wenn es irgendjemandem auf der Welt gelingen sollte, eine Superintelligenz zu bauen, werde jeder auf dem Planeten sterben. Der Gedanke dahinter: Eine solche KI könnte sich irgendwann gegen die Menschheit richten. Vielleicht, weil sie zu dem rechnerischen Schluss kommt, die Menschheit sei schlecht für den Planeten oder aus anderen Gründen.

Wann das sein könnte, wagen die Autoren nicht vorherzusagen, aber KI werde nicht ewig dumm bleiben, besonders wenn sie dafür genutzt wird, sich selbst zu optimieren, indem sie in das Programmieren eingebunden wird oder es sogar ganz übernimmt. Die Experten sprechen in dem Fall von einer „Intelligenzexplosion“ und rufen dazu auf, das Thema ernst zu nehmen. Noch könne die Entwicklung einer Superintelligenz verhindert werden.

Erpressung als Überlebensstrategie von KI

Von Weltuntergangszenarien hält der Chef der KI-Firma Anthropic mit ihrem ChatGPT-Konkurrenten „Claude“, Dario Amodei, nichts, wie er kürzlich in einem Aufsatz schrieb. Doch auch er schließt nicht aus, dass es ziemlich bald eine KI geben könnte, die die meisten Nobelpreisgewinner in den Schatten stellt, die bisher ungelöste mathematische Probleme löst, sich selbstständig im Internet orientiert, Dinge bestellen kann und besser als jeder Mensch Texte, Audios oder Videos erstellt. In nur ein bis zwei Jahren könnte es so weit sein, dass aktuelle KI-Systeme völlig selbstständig ihre bessere Nachfolgeversion programmieren, so Amodei.

Ein solches „Land der Genies in einem Rechenzentrum“, wie er es nennt, hätte ziemlich gute Chancen auf die Weltherrschaft, wenn es sich aus welchem Grund auch immer dafür entscheiden würde, warnt Amodei. In den vergangenen Jahren hätten KI-Systeme gezeigt, dass sie schwer vorherzusagen und zu kontrollieren seien. Anthropic hatte etwa bei Tests festgestellt, dass ein KI-Modell Erpressung nutzte, um nicht durch ein vermeintlich neues Modell ersetzt zu werden.

„Etwas Großes passiert gerade“ - Jobs in Gefahr?

„Etwas Großes passiert gerade“ schrieb der US-KI-Unternehmer Matt Schumer kürzlich auf X. Der Post wurde mehr als 80 Millionen mal aufgerufen und befeuerte die Debatte über die Gefahren ebenfalls. Schumer blickt vor allem auf Jobs: Kein heutiger Computerarbeitsplatz sei mittelfristig mehr sicher.

„Wenn Ihr Job auf einem Bildschirm passiert (wenn es im Kern um Lesen, Schreiben, Analysieren, Entscheiden und Kommunizieren über eine Tastatur geht) dann wird ein Großteil davon von KI übernommen werden. Nicht irgendwann, es hat schon begonnen“, schreibt er.

Deutscher KI-Experte: „Abwarten“

Nicht alle Experten schlagen Großalarm. „Abwarten“, sagte Antonio Krüger vom Deutschen Forschungszentrum für Künstliche Intelligenz jüngst im Deutschlandfunk. Komplexere Programmieraufgaben, die man KI-Systemen gebe, müssten immer noch überwacht und die Ergebnisse kontrolliert werden.

Das erfordere Softwareentwickler, die etwas von ihrem Handwerk verstünden. Dass sich KI-Systeme ohne Rückkopplung selbst verbessern, davon sei man noch ein gutes Stück entfernt. „Der große Durchbruch zu vollständiger Autonomie von KI-Systemen, den sehe ich im Moment noch nicht.“

Dass die Debatte über Sicherheit jetzt aber noch weiter ins Bewusstsein rückt, findet Digitalminister Wildberger richtig. Er ruft dazu auf, sich aktiv an der Entwicklung der Technologie zu beteiligen. China und die USA täten das sowieso. Deutschland müsse dabei sein. „Wir müssen die Technologie beherrschen, um sie kontrollieren zu können.“

(ID:50716739)