Mobile-Menu

Forschung Studie zeigt Begrenztheit von KI-Modellen wie ChatGPT

Quelle: Technische Universität Darmstadt 1 min Lesedauer

Anbieter zum Thema

TU Darmstadt
WatchGuard Technologies GmbH
Zadara Ltd.
mibeca GmbH – Mike Bergmann Akademie

Mit der Veröffentlichung von ChatGPT bekam eine breite Öffentlichkeit erstmals Zugang zu Künstlicher Intelligenz. Doch wie fähig und auch gefährlich können diese KI-Modelle sein?

Wie schlau ist ChatGPT wirklich?(Bild: Malambo C/peopleimages.com - stock.adobe.com)
Wie schlau ist ChatGPT wirklich?
(Bild: Malambo C/peopleimages.com - stock.adobe.com)

Eine neue Studie unter führender Beteiligung der Technischen Universität Darmstadt kam zu dem Schluss, dass KI-Modelle wie ChatGPT weniger lernfähig sind als bisher angenommen. Laut einer Mitteilung gibt es keine Hinweise darauf, dass die sogenannten Large Language Models (LLMs) anfingen, ein allgemeines „intelligentes“ Verhalten zu entwickeln. So sei für die Modelle auch kein planvolles oder intuitives Vorgehen oder komplexes Denken möglich.

Die Forscher konnten mit ihren Untersuchungen auch die Sorgen ausräumen, dass sich LLMs verselbständigen und der menschlichen Kontrolle womöglich entziehen. Die Wissenschaftler kommen zu dem Fazit, dass es für die mutmaßliche Entwicklung eines differenzierten Denkvermögens der Modelle keine Beweise gebe. Stattdessen erlangten die LLMs die oberflächliche Fertigkeit, relativ einfachen Anweisungen zu folgen. Von dem, was Menschen können, seien die Systeme noch weit entfernt.

Lernprozess kann gut gesteuert werden

„Unsere Ergebnisse bedeuten jedoch nicht, dass KI überhaupt keine Bedrohung darstellt“, sagt TU-Informatikprofessorin Iryna Gurevych. „Wir zeigen vielmehr, dass die angebliche Entstehung komplexer Denkfähigkeiten, die mit bestimmten Bedrohungen verbunden sind, nicht durch Beweise gestützt wird und dass wir den Lernprozess von LLMs doch gut steuern können.“

Die Wissenschaftlerin empfiehlt beim Umgang mit den Modellen, explizit anzugeben, was sie genau tun sollen und dabei mit Beispielen zu arbeiten. Dabei darf nicht vergessen werden, dass dabei auch plausibel klingende, aber falsche Ergebnisse entstehen können. Dieses Problem bleibe weiterhin bestehen, auch wenn sich die Qualität der Modelle in jüngster Zeit drastisch verbessert hat, so Gurevych.

(ID:50145442)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte

Jobs