Mehr KI, weniger Wildwuchs: Warum ein KI-Office mit der richtigen Governance KI-Experimente bündeln, die richtigen Anwendungsfälle priorisieren und den Weg in den produktiven Betrieb ebnen kann.
Je größer die KI-Spielwiese, desto mehr Schatten-KI – gefragt ist da ein Hirte, der die Herde auf Kurs halten kann.
(Bild: Gemini / KI-generiert)
In vielen Unternehmen entstehen derzeit KI-Projekte – zahlreich und meistens zu langsam. Fachbereiche experimentieren mit Modellen generativer KI, Agenten übernehmen erste Aufgaben in Service, Finance, Marketing, Sales oder HR. Während die Zahl der Experimente steigt, bleibt jedoch die Frage offen, wer die Initiativen steuert, priorisiert, in den produktiven Betrieb überführt, ihre Qualität sichert, Zugriffe verwaltet und sicherstellt, dass die Lösungen wie vorgesehen genutzt werden?
Zugleich wächst mit der KI-Spielwiese auch die Schatten-KI – während die sichere Skalierung noch hinterherhinkt. Wie lassen sich all die KI-Schäfchen zusammenhalten und sicher auf die gemeinsame Weide führen?
KI skalieren statt experimentieren
Aus Sicht der Technologieberatung Slalom Germany braucht es dafür ein KI-Office, das Governance neu denkt: nicht als Kontrollinstanz oder reine Compliance-Funktion, sondern als Steuerungs- und Beschleunigungsmotor.
„In vielen Unternehmen wird Governance wie ein Prüfverfahren betrachtet, das dafür zuständig ist, die Einhaltung von Regeln zu gewährleisten. Wenn KI im gesamten Unternehmen verankert werden soll, ist das zu wenig. Eine zentrale Governance kann Risiken nicht nur einschränken, sondern eine technische und organisatorische Richtung vorgeben und Transformation beschleunigen“, erklärt Dr. Stephan Theis, Managing Director Go-to-Market bei Slalom Germany.
Ohne eine zentrale Instanz, die diese Funktionen übernimmt, bleibt KI eine Spielwiese ohne Serienproduktion und Übersicht.
Dr. Stephan Theis, Managing Director Go-to-Market bei Slalom Germany
Als KI-Office definiert das Beratungsunternehmen ein dediziertes, zentrales Team im Unternehmen, das für die Steuerung von KI-Initiativen zuständig ist. Laut Slalom soll das KI-Office für ein einheitliches Verständnis von Daten sorgen und deren Nutzung sowie gemeinsame Leitlinien zur Entwicklung, zum Betrieb und zur Überwachung von KI ermöglichen. Außerdem soll es Kosten, Organisationsentwicklung und -anpassung, Risikomanagement, Mitarbeiterbefähigung sowie Compliance koordinieren.
Slalom zufolge wird Governance in vielen Organisationen jedoch zu oft als Compliance-Funktion betrachtet: Im Fokus stünden Richtlinien, Freigaben und die Einhaltung von Gesetzen. Die Umsetzung von Richtlinien wie NIS2, dem EU AI Acts und anderen Gesetze mag Slalom zufolge auf diese Weise zwar funktionieren, für komplexe, transformative KI-Initiativen greife der Ansatz allerdings zu kurz. KI-Projekte entstünden meist dezentral, mit kleinen Teams aus verschiedenen Fachbereichen, wenig Leitplanken und hoher Geschwindigkeit.
Damit kein Schaf mehr aus der Reihe tanzt, soll ein KI-Office als zentrale Steuerungsinstanz die KI-Initiativen bündeln und ihre Umsetzung beschleunigen.
(Bild: Canva / KI-generiert)
Ohne zentrale Steuerung wachse dabei oft eine KI-Landschaft aus Einzelinitiativen, die weder auf gemeinsamen Standards aufbauen noch voneinander profitieren – oft „Schatten-KI“ genannt. Die mangelnde Transparenz stelle Unternehmen zudem vor Probleme wie explodierende KI-Kosten und Datenverlust. Ein KI-Office, das Governance richtig betreibt, sei in erster Linie eine Steuerungsinstanz, die KI-Initiativen beschleunigt, indem sie Leitplanken für die Prozess- und Technologieauswahl sowie den Umgang mit Risiken definiert. Es soll den Fachbereichsteams diese Arbeit abnehmen und Experimente innerhalb eines klar definierten Rahmens ermöglichen.
Ein KI-Office muss klar machen, was erlaubt ist und was nicht.
Dr. Stephan Theis, Managing Director Go-to-Market bei Slalom Germany
Theis betont entsprechend: „KI-Kontrolle ist wichtig. Wer KI aber nur reguliert und Initiativen nicht steuert oder beschleunigt, schafft Misstrauen statt Orientierung. Ein KI-Office muss klar machen, was erlaubt ist und was nicht.“ Nur so könnten „Standards entstehen, die KI-Initiativen und das Unternehmen voranbringen, Risiken und Investitionen ausbalancieren und Schatten-KI eindämmen.“
Ohne Standards bleiben Initiativen teuer und langsam
Eine der zentralen Aufgaben des KI-Office liegt daher in der Entwicklung und Durchsetzung von Standards. Dazu gehören Entscheidungen über die zugrunde liegende Architektur, etwa welche Plattformen für KI-Anwendungen genutzt werden, wie sie mit bestehenden Systemen verbunden werden und welche Anforderungen an Sicherheit, Protokollierung und Überwachung gelten.
Standards sind die Bedingung dafür, dass KI-Initiativen nicht jedes Mal bei null starten. Ohne Standardisierung wird jedes Vorhaben zum Unikat – teuer, langsam und schwer zu betreiben.
Dr. Stephan Theis, Managing Director Go-to-Market bei Slalom Germany
Ebenso wichtig ist ein einheitlicher Umgang mit Daten: Das KI-Office bestimmt, welche Quellen für KI-Anwendungen zugelassen sind, welche Qualitätsanforderungen gelten, wie Metadaten gepflegt und Schnittstellen gestaltet werden.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Wenn diese Fragen unternehmensweit beantwortet sind, müssen sie nicht in jedem Projekt neu diskutiert werden. So entstehen wiederverwendbare Muster, die Projekte beschleunigen, statt sie zu verzögern. „Standards sind die Bedingung dafür, dass KI-Initiativen nicht jedes Mal bei null starten. Ohne Standardisierung wird jedes Vorhaben zum Unikat – teuer, langsam und schwer zu betreiben“, betont Theis.
Die richtigen Prozesse priorisieren
Neben der Definition von technologischen Standards spielt das KI-Office eine zentrale Rolle für die Priorisierung von Prozessen und Use Cases. Denn nicht jeder Prozess eignet sich gleichermaßen für den Einsatz von KI. Prozesse mit klaren Entscheidungspunkten und messbarem wirtschaftlichen Effekt bieten eine bessere Ausgangslage als seltene Sonderfälle oder hochgradig unstrukturierte Arbeitsabläufe.
Das KI-Office muss frühzeitig eingebunden werden, um gemeinsam mit den Fachbereichen zu analysieren, welche Prozesse sich für KI-Automatisierung eignen und welche Wirkung sie entfalten können. Unternehmen, die diese Analyse überspringen, wählen häufig entweder zu kleinteilige Prozesse, bei denen Automatisierung zwar gelingt, deren Effekte aber kaum spürbar sind, oder zu umfassende Prozesse, deren Komplexität die Einführung von KI von Beginn an überfordert.
„Die zentrale Frage lautet nicht, wo KI ausprobiert werden kann, sondern wo sie das Unternehmen spürbar verändert. Wer Prozesse nicht auf ihr transformatives Potenzial hin bewertet, produziert entweder Piloten, die niemand bemerkt, oder Vorhaben, die an ihrer eigenen Komplexität scheitern“, stellt Theis klar.
Interdisziplinäre Kompetenzen in KI-Delivery-Teams bündeln
Während das KI-Office Standards vorgeben kann, bleibt das eigentliche Prozesswissen in den Fachbereichen. Um die Lücke zwischen Fachbereich und Umsetzung zu schließen, empfiehlt Slalom KI-Delivery-Teams, die aus der Kombination von KI-Office und Fachbereich getragen werden.
Die Fachbereiche sollen dabei das notwendige Domänenwissen einbringen: Sie beschreiben den Prozess, der automatisiert werden soll, inklusive Ausnahmen, Eskalationen und Sonderfälle.
Die Fachkräfte wissen dabei, welche Entscheidungen getroffen werden müssen, welche Daten dafür notwendig und welche Fehler tolerierbar sind. Vor allem diejenigen, die lange im Unternehmen sind, kennen die echten, gelebten Prozesse, die der beste Ausgangspunkt für die Neugestaltung und Automatisierung sind.
KI scheitert selten am Modell, sondern an der Übersetzung zwischen Fachbereich und Technik. KI-Delivery-Teams, die beide Perspektiven vereinen, sorgen dafür, dass KI von Anfang an so gedacht wird, dass sie im Arbeitsalltag funktioniert.
Dr. Stephan Theis, Managing Director Go-to-Market bei Slalom Germany
Das KI-Office soll dieses Wissen um Architektur-, Integrations- und Skalierungskompetenz ergänzen und dafür sorgen, dass Use Cases auf der richtigen Plattform laufen, sauber in bestehende Systeme eingebunden sind und so konzipiert sind, dass sie skaliert werden können. So könne ein gemeinsames Verantwortungsmodell entstehen, in dem Fachbereiche den inhaltlichen Output verantworten und das KI-Office die technische Umsetzung und Betriebsfähigkeit sichert.
KI-Office als Bibliothek für erfolgreiche KI-Projekte
Jede KI-Initiative, die skaliert und produktiv genutzt wird, liefert Bausteine, die andere Vorhaben unterstützen können – sei es in Form erprobter Architekturkonzepte, stabiler Datenpipelines, bewährter Sicherheits- und Governance-Mechanismen oder in Form konkreter Erfahrungen im Change-Management. Der Auftrag des KI-Office besteht zunächst darin, Rahmenbedingungen für KI-Projekte festzulegen. Aus jeder skalierten Initiative entstehen Best Practices, die die vorhandenen Frameworks und die Skalierbarkeit kontinuierlich verbessern.
„Das KI-Office entwickelt eine Art kuratierte Bibliothek aus erfolgreichen Mustern, auf die Fachbereiche zurückgreifen können. Mit jeder erfolgreichen Initiative entsteht dann eine Abkürzung für die nächste. So tragen Erfahrungswissen und Standardisierung dazu bei, die Geschwindigkeit von KI-Vorhaben zunehmend zu beschleunigen“, fasst Theis zusammen.