Sicherer Einsatz von Künstlicher Intelligenz KI im Unternehmen: Steuern statt verbieten

Von Denis Feth 4 min Lesedauer

Anbieter zum Thema

Beschäftigte nutzen KI für unterschiedliche Aufgaben. Klare Regeln und Unterstützung seitens der Unternehmen gibt es dafür oft aber nicht. Statt die Eigeninitiative zu blockieren, sollten Firmen sie transparent machen, bewerten und in sichere Bahnen lenken.

Im Team über IT-Sicherheit und Cloud-Anwendungen: Auch für den Einsatz von KI im Unternehmen braucht es klare Regeln und Verantwortlichkeiten. (Bild:  Fraunhofer Academy)
Im Team über IT-Sicherheit und Cloud-Anwendungen: Auch für den Einsatz von KI im Unternehmen braucht es klare Regeln und Verantwortlichkeiten.
(Bild: Fraunhofer Academy)

KI wird in vielen Unternehmen nicht vollständig zentral geplant eingeführt. Häufig entdecken Beschäftigte selbst sinnvolle Einsatzmöglichkeiten, bevor KI-Richtlinien und freigegebene Werkzeuge vorhanden sind. Eine Befragung der Universität Konstanz zeigt das deutlich: Nur gut die Hälfte der KI-Nutzenden gab an, dass ihr meistgenutztes KI-Tool offiziell vom Arbeitgeber eingeführt wurde.

Für Unternehmen entsteht daraus ein Spannungsfeld: Sie sollten diese Eigeninitiative und die damit verbundenen Vorteile ermöglichen und zugleich verhindern, dass sensible Daten unkontrolliert verarbeitet oder KI-Ergebnisse ungeprüft übernommen werden. Gefragt ist ein Rahmen, der tatsächliche Bedarfe aufgreift, Risiken differenziert bewertet und Verantwortlichkeiten klärt.

Nutzung und Bedarf sichtbar machen

Wo Beschäftigte auf nicht freigegebene KI-Dienste ausweichen, können vertrauliche Informationen, personenbezogene Daten oder interne Dokumente außerhalb der vorgesehenen Schutzmaßnahmen verarbeitet werden.

Am Anfang steht daher eine Bestandsaufnahme. Unternehmen sollten erfassen, welche Werkzeuge eingesetzt werden, für welche Aufgaben sie genutzt werden und welche Daten dafür erforderlich sind. Erst diese Verbindung von Anwendung, Einsatzzweck und Daten ermöglicht eine fundierte Bewertung.

Gerade informell entstandene Nutzung liefert dabei wertvolle Hinweise. Sie zeigt, wo geeignete freigegebene Lösungen fehlen oder bestehende Angebote im Arbeitsalltag nicht ausreichen. Eine nicht freigegebene Anwendung ist deshalb nicht nur ein Sicherheitsproblem, sondern auch ein Signal für einen möglicherweise berechtigten Bedarf. Statt bei einem Verbot stehenzubleiben, sollten Unternehmen prüfen, wie sich dieser sicher unterstützen lässt.

Unternehmen sollten KI weder unkontrolliert wachsen lassen noch durch pauschale Verbote ausbremsen.

Denis Feth, Abteilungsleiter Security Engineering bei Fraunhofer IESE

Risiken nach Einsatzzweck bewerten

Dabei sollte risikobasiert vorgegangen werden, denn nicht jede KI-Anwendung bringt dieselben Risiken mit sich. Eine Anwendung zur Ideenfindung mit öffentlichen Informationen ist anders zu bewerten als ein System, das auf Kundendaten zugreift, Code erzeugt oder eigenständig Aktionen ausführt. Entscheidend sind Einsatzzweck, Sensibilität der Daten, erforderliche Berechtigungen und der mögliche Schaden einer Fehlentscheidung.

Daraus lassen sich konkrete Spielregeln ableiten:

  • Welche Anwendungen sind freigegeben? Welche Daten dürfen verarbeitet werden?
  • Welche Einsatzbereiche sind ausgeschlossen?
  • Wann ist eine zusätzliche Genehmigung erforderlich?
  • Und unter welchen Voraussetzungen dürfen KI-generierte Ergebnisse weiterverwendet werden?

Gerade der letzte Punkt ist wichtig und darf nicht vernachlässigt werden. KI-Ergebnisse können falsch, unvollständig oder sicherheitskritisch sein. In Veracodes Sicherheitstests vom Oktober 2026 erzeugten 18 untersuchte Sprachmodelle bei rund 38 Prozent der Testaufgaben Code mit erkennbaren Schwachstellen.

Sichere Nutzung praktisch ermöglichen

Regeln allein genügen jedoch nicht. Beschäftigte müssen verstehen, warum sie gelten und wie sie im Arbeitsalltag anzuwenden sind. Artikel 4 des EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen zur Entwicklung ausreichender KI-Kompetenz bei den mit Betrieb und Nutzung befassten Personen zu ergreifen.

Unterstützungsangebote sollten dabei an konkreten Situationen ansetzen:

  • Welche Informationen dürfen eingegeben werden?
  • Wie lassen sich KI-Ergebnisse kritisch prüfen?
  • Wann ist eine menschliche Freigabe erforderlich?
  • Was ist bei einer versehentlichen Weitergabe sensibler Daten zu tun?

Praktische Übungen in kontrollierten Lern- oder Testumgebungen können dabei hilfreicher sein als rein theoretische Unterweisungen. Unternehmen sollten außerdem geeignete Alternativen zu nicht freigegebenen Diensten bereitstellen. Wer eine Anwendung untersagt, ohne den dahinterliegenden Bedarf zu berücksichtigen, erhöht das Risiko, dass die Nutzung lediglich unsichtbar weitergeht.

Verantwortlichkeiten und Freigaben klären

Damit aus Regeln und Kompetenzen ein belastbarer Rahmen wird, muss feststehen, wer über Bewertung, Freigabe und Betrieb einer KI-Anwendung entscheidet. Je nach Einsatzzweck können neben dem Fachbereich insbesondere IT, Informationssicherheit, Datenschutz und Recht beteiligt sein.

Vor einer Freigabe sollte geklärt werden, welche Daten und Berechtigungen die Anwendung benötigt, welche Systeme angebunden werden, wo Daten verarbeitet werden, welche Entscheidungen automatisiert getroffen werden dürfen und wann eine menschliche Prüfung erforderlich ist.

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung
Statt bei einem Verbot stehenzubleiben, sollten Unternehmen prüfen, wie sich dieser sicher unterstützen lässt.

Denis Feth, Abteilungsleiter Security Engineering bei Fraunhofer IESE

Freigaben kontinuierlich überprüfen

Sichere KI-Nutzung ist kein einmaliges Projekt. Neue Funktionen, Schnittstellen, Berechtigungen oder geänderte Bedingungen eines Anbieters können das Risikoprofil einer freigegebenen Lösung verändern. Gleiches gilt, wenn eine Anwendung später für andere Aufgaben oder Daten eingesetzt wird. Unternehmen sollten deshalb festlegen, welche Änderungen eine Neubewertung auslösen.

Gerade kleine und mittelständische Unternehmen können diese Aufgaben oft nicht vollständig mit eigenen Ressourcen abdecken. IT-Dienstleister, Systemhäuser und Forschungseinrichtungen können sie dabei unterstützen, Lösungen zu bewerten, technische und organisatorische Vorgaben umzusetzen und KI-Anwendungen in bestehende IT- und Sicherheitskonzepte einzubetten.

Eigeninitiative ermöglichen, Risiken begrenzen

Unternehmen sollten KI weder unkontrolliert wachsen lassen noch durch pauschale Verbote ausbremsen. Entscheidend ist ein Rahmen, in dem Beschäftigte sinnvolle Anwendungen nutzen können, ohne Sicherheit, Datenschutz und Verantwortlichkeit aus dem Blick zu verlieren.

Dafür müssen Unternehmen die tatsächliche Nutzung kennen, Bedarfe verstehen, Risiken bewerten und daraus geeignete Werkzeuge, Spielregeln und Verantwortlichkeiten ableiten. So wird informelle KI-Nutzung nicht nur zum Risiko, sondern auch zum Ausgangspunkt für eine sichere und bedarfsgerechte Gestaltung.

Abteilungsleiter Security Engineering bei Fraunhofer IESE
Denis Feth leitet die Abteilung Security Engineering am Fraunhofer-Institut für Experimentelles Software Engineering IESE in Kaiserslautern.

Bildquelle: Frauenhofer IESE

(ID:51016129)