Mobile-Menu

Das Phämomen „Shadow AI“ „Schatten-KI“ ist die neue „Schatten-IT“

Von Dr. Stefan Riedl 2 min Lesedauer

Anbieter zum Thema

Zendesk
WatchGuard Technologies GmbH
Zadara Ltd.
mibeca GmbH – Mike Bergmann Akademie

Künstliche Intelligenz mausert sich zum alltäglichen Helferlein im Büroalltag. Bei Zendesk blickt man differenziert auf die neue KI-Welt. Es lauern Gefahren durch „Shadow AI“ und KI-getriebene Automatisierung hat auch ihre natürlichen Grenzen.

Hinter vielen Nutzern lauern unerkannte Probleme mit Shadow AI.(Bild: Midjourney / KI-generiert)
Hinter vielen Nutzern lauern unerkannte Probleme mit Shadow AI.
(Bild: Midjourney / KI-generiert)

Schatten-IT bezeichnet die Nutzung von IT-Systemen ohne Genehmigung der IT-Abteilung, während Schatten-KI, oder "Shadow AI", den unkontrollierten Einsatz von KI-Tools durch Mitarbeiter außerhalb der offiziell bereitgestellten Unternehmenslösungen beschreibt. Zahlen aus dem Hause Zendesk zeigen einen enormen Anstieg in diesem Jahr bei der Shadow-AI: „49 Prozent der Service-Mitarbeiter nutzen externe generative KI-Tools - im Vorjahr waren es nur 17 Prozent“, sagt Matthias Göhler, Chief Technology Officer EMEA, Zendesk. Diese Entwicklung ist aus seiner Sicht besorgniserregend.

Das Problem mit Shadow AI

Matthias Göhler, Chief Technology Officer EMEA, Zendesk(Bild: Zendesk)
Matthias Göhler, Chief Technology Officer EMEA, Zendesk
(Bild: Zendesk)

Warum ist das ein Problem? Nun ja: Die unkontrollierte Nutzung externer KI-Tools birgt erhebliche Risiken für Unternehmen. Göhler führt aus: „Zum einen gefährdet es die Datensicherheit, wenn sensible Kundeninformationen in nicht-autorisierte Systeme eingegeben werden. Zum anderen führt es zu inkonsistenten Service-Erlebnissen und mangelnder Qualitätskontrolle.“ Laut einer hauseigenen Erhebung von Zendesk, dem „CX Trends Report“ sehen 65 Prozent der CX-Führungskräfte (Verantwortliche für Customer Experience) die KI-Transparenz als Notwendigkeit an. 83 Prozent nennen Datenschutz und sichere KI-Implementierung als Top-Prioritäten.

Praxisbeispiel

Der CTO rekurriert auf ein typisches Szenario, das beispielsweise darin besteht, „wenn Service-Mitarbeitende externe KI-Tools für Übersetzungen oder Antwortvorschläge nutzen“. Während die Intention – schnellerer Service – nachvollziehbar sei, können dabei versehentlich vertrauliche Kundeninformationen an die Drittanbieter übermittelt werden. Zudem fehle die Kontrolle über den Kommunikationsstil und die Übereinstimmung mit Unternehmensrichtlinien.

KI im Kundenservice und bei Ticketsystemen

Es lauern Probleme auch beim Einsatz vom KI im Kundenservice im Allgemeinen und bei Ticketsystemen im Besonderen. Die größte Herausforderung ist laut Göhler die Balance zwischen Automatisierung und menschlichem Einsatz. KI-Systeme müssen stets sorgfältig in bestehende Workflows integriert werden. Bei Ticketsystemen sei es entscheidend, dass die KI-gestützte Kategorisierung und Weiterleitung präzise funktioniert und transparent bleibt. „Besonders in regulierten Branchen wie Finanz- und Gesundheitswesen sind klare Übergaben zwischen KI und Menschen sowie nachvollziehbare KI-Entscheidungen unerlässlich.“

KI-getriebene Automatisierung und ihre Grenzen

KI-Automatisierung ist aus der Perspektive von Göhler besonders effektiv bei hochvolumigen, wiederkehrenden Anfragen sowie bei mehrsprachigem Support, Wissensmanagement und Informationszugriff. Aber auch Ticket-Kategorisierung und Routing profitieren nicht unerheblich. Weniger geeignet ist sie demnach für: hochkomplexe Problemlösungen oder emotional sensible Situationen. Das beinhalte auch strategische Kundenberatung, Verhandlungen oder Compliance-kritische Entscheidungen.

(ID:50574649)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte

Jobs