KI im Bildungssektor Unterrichtsinhalte aus der Cloud

Anbieter zum Thema

Deloitte Consulting GmbH

WatchGuard Technologies GmbH

Fsas Technologies GmbH

Impossible Cloud GmbH

Künstliche Intelligenz ist mehr als nur eine Modeerscheinung. Sie verfügt – sektorenübergreifend – über signifikantes Transformationspotential. Eine aktuelle Studie von Deloitte befasst sich mit KI im Bildungswesen und zeigt potentielle Risiken.

In der gesamten Industrie ist das Thema künstliche Intelligenz seit geraumer Zeit omnipräsent. Ob zur Steigerung der Effizienz, als Gegengewicht zum Fachkräftemangel oder gar als vollwertige Arbeitskraft. KI hat längst die Vorurteile der „Spielerei“ abgelegt.

Die Unterteilung der KI-Anwendungen

Das Problem der Regulierung hat auch die Europäische Union erkannt und den sogenannten EU AI Act verabschiedet. Dieser ist seit dem ersten August 2024 in Kraft und klassifiziert KI-basierte Anwendungen je nach ihrem Gefahrenpotential. Dabei wird in vier verschiedene Kategorien unterteilt.

Unter die sogenannten unannehmbaren Risiken fallen KI-Tools, welche beispielsweise Menschen anhand eines Merkmals kategorisieren und Bewertungen vornehmen. Social-Scoring, wie es etwa in einigen asiatischen Ländern praktiziert wird, ist somit per Gesetz ein Riegel vorgeschoben. KI-Systeme, die zu derartigen Praktiken in der Lage sind, dürfen auch zu Testzwecken nicht betrieben werden. Hochrisiko-Anwendungen, die etwa Sicherheit oder Grundrechte der Bürgerinnen und Bürger beeinträchtigen können, haben vor Inbetriebnahme strikte Compliance-Richtlinien zu erfüllen, und die Betreiber derartiger Anwendungen müssen dies durch weitreichende Konformitätsbewertungen nachweisen.

KI-Systeme mit begrenztem Risiko sind dazu in der Lage, mit Menschen zu interagieren und menschliches Verhalten zu imitieren. Paradebeispiele für derartige Systeme sind beispielsweise OpenAIs ChatGPT oder diverse Chatbots, welche unter anderem in der öffentlichen Verwaltung oder im Bildungswesen Anwendung finden. Für diese gelten – laut des EU AI Acts – besondere Transparenz- und Kennzeichnungspflichten. Es muss zu jedem Zeitpunkt ersichtlich sein, dass die Produkte solcher Anwendungen KI-generiert sind.

Lediglich KI-Anwendungen mit minimaler Risikostufe, also beispielsweise intelligente Spamfilter, bedürfen keiner separaten Kennzeichnung. Sie agieren außerhalb des Anwendungsbereichs der EU-Verordnung.

KI im Bildungswesen

Im Eductional-Sector wird der Einsatz von KI ambivalent betrachtet. Einem Microsoft-Bericht zufolge nutzen Lehrkräfte künstliche Intelligenz in erster Linie, um in kurzer Zeit abwechslungsreiche Lehrinhalte und Unterrichtsmaterialien zu generieren. Die Schülerinnen und Schüler können insbesondere durch KI-generierte
Zusammenfassungen von Unterrichtsinhalten die Mehrwerte von KI erfahren. Weiterhin besteht die Möglichkeit, sich erste Grobfassungen von Essays und Textaufgaben anfertigen zu lassen und diese später mit persönlicher Note zu individualisieren. Die Kehrseite der Medaille ist die signifikante Zunahme von Plagiaten und Unterschleif in Prüfungssituationen seit der flächendeckenden Verfügbarkeit von ChatGPT und weiteren KI-basierten Anwendungen. Wenngleich die Detektionsheuristiken für KI-generierte Inhalte stets zuverlässiger werden, steht dennoch der Betrugsvorwurf schnell im Raum. Die Erfahrungswerte von etlichen Schülerinnen und Schülern – insbesondere in höheren Klassenstufen – mit KI-Tools sind deswegen eher als durchwachsen zu bezeichnen. Darüber hinaus gibt es auch die Gefahr, Abhängigkeiten von künstlicher Intelligenz zu entwickeln. Dabei verfügt die KI durchaus über hohe Potentiale im Bildungswesen, berichten die Autoren der Deloitte-Studie „KI im Bildungssektor“. Ob individuell an die Lernfortschritte der Schülerinnen und Schüler angepasste Lerninhalte oder spezifische Forder- und Förderangebote – die Möglichkeiten wirken zunächst schier unbegrenzt.

Damit ein operativer Einsatz von KI im Bildungswesen jedoch reibungslos und rechtlich einwandfrei gelingen kann, haben die Experten von Deloitte einige Handlungsempfehlungen aufgestellt. Neben der Sicherstellung von Compliance-Richtlinien müssten insbesondere Lehrkräfte und Bildungseinrichtungen auf den aktuellen Stand der Technik gebracht und gehalten werden. Nur auf diese Art und Weise könne man eine nachhaltige Bildungsgerechtigkeit erreichen und sich das Beste der KI zunutze machen.

Schlüssel zur Verwaltungsmodernisierung?

Die Deutschland-App

Bitkom-Umfrage

Wunschbrunnen öffentliche Verwaltung?

(ID:50248635)