Souveräne KI steht bei mehr als der Hälfte der Führungskräfte auf der Agenda – doch nur 13 Prozent der Unternehmen verstehen das Konzept wirklich. Eine IDC-Studie zeigt, wie groß die Lücke zwischen Anspruch und Umsetzung ist.
Souveräne KI verspricht Kontrolle und Unabhängigkeit. Doch vielen Unternehmen fehlen bislang Strategie, Governance, Infrastruktur und Knowhow.
(Bild: Midjourney / KI-generiert)
Digitale Souveränität ist längst Chefsache – bei Künstlicher Intelligenz bleibt sie bislang aber vor allem eine Absichtserklärung. Das ist der Kern der IDC-Studie „The state of sovereign AI adoption“, die die Analysten im Auftrag des KI-Anbieters Cohere erstellt haben. Befragt wurden über 500 IT- und Business-Entscheider und -Influencer aus Großunternehmen mit mehr als einer Milliarde US-Dollar Jahresumsatz in Deutschland, Großbritannien, den USA und Kanada.
Wie definiert man souveräne KI?
IDC definiert souveräne KI als die freie Wahl und Kontrolle über Design, Entwicklung, Bereitstellung, Zugänglichkeit, Betrieb, Wartung und Governance von KI-Systemen sowie über die zugrunde liegenden technologischen Grundlagen. Von dieser Klarheit sind die befragten Unternehmen weit entfernt: Nur 13 Prozent geben an, dass das Konzept im eigenen Haus breit verstanden wird. Rund ein Drittel der Befragten hatte Schwierigkeiten, souveräne KI überhaupt in eigenen Worten zu erklären.
Damit klafft eine deutliche Lücke zwischen der strategischen Bedeutung, die dem Thema zugeschrieben wird, und dem tatsächlichen Verständnis in den Unternehmen. Die Vorstellungen davon, was souveräne KI konkret bedeutet und welche Abhängigkeiten damit adressiert werden sollen, gehen weit auseinander.
Risiken bleiben ein blinder Fleck
Noch größer ist die Wissenslücke bei den Risiken, die souveräne KI adressieren soll. 78 Prozent der Befragten räumen ein, dass das Risikoverständnis im Unternehmen gar nicht, kaum oder nur teilweise vorhanden ist.
Dabei sind die konkreten Sorgen durchaus klar: Als größte Herausforderung beim Einsatz generativer und agentischer KI nennen die Unternehmen Datenlecks und Datenschutzverletzungen. Auch Compliance-, regulatorische und rechtliche Risiken spielen eine zentrale Rolle. Halluzinationen beziehungsweise fehlerhafte KI-Ausgaben sowie fehlende Governance folgen mit deutlichem Abstand.
Datenschutz und Datensicherheit sind damit branchenübergreifend ein zentraler Treiber für mehr Souveränität. Gleichzeitig zeigt die Studie eine Perspektivendifferenz: Fachbereiche betrachten souveräne KI stärker unter dem Gesichtspunkt des Geschäftsrisikomanagements, während die IT stärker auf regulatorische Compliance und nationale beziehungsweise regionale Anforderungen fokussiert.
Deutschland beim Verständnis vorn
Im Ländervergleich schneidet Deutschland beim Verständnis des Konzepts vergleichsweise gut ab: 29 Prozent der deutschen Befragten weisen eine hohe Awareness für souveräne KI aus. Damit liegt Deutschland deutlich vor Großbritannien, den USA und Kanada.
Auch bei der organisatorischen Verankerung zeigen sich Unterschiede zwischen den Ländern. In Deutschland liegt die Verantwortung für souveräne KI deutlich stärker auf der IT-Seite, während in Nordamerika häufiger ein Chief AI Officer beziehungsweise Head of AI zuständig ist. Gleichzeitig sind Rollen und Verantwortlichkeiten insgesamt nur selten klar geregelt.
Das zeigt: Selbst dort, wo das Thema stärker verstanden wird, ist daraus noch nicht automatisch eine belastbare Governance-Struktur entstanden.
Agenten-Welle erhöht den Druck
Der Zeitdruck steigt, weil die nächste KI-Generation bereits eingeplant ist. Generative KI ist mit 99 Prozent praktisch flächendeckend im Einsatz. Gleichzeitig steht der nächste Entwicklungsschritt bevor: der verstärkte Einsatz von KI-Agenten. Während heute erst 13 Prozent der Unternehmen vorgefertigte oder von Drittanbietern bereitgestellte Agenten nutzen, soll dieser Anteil innerhalb von zwölf Monaten auf 67 Prozent steigen. Bei intern entwickelten Agenten wächst die Nutzung im gleichen Zeitraum von 5 auf 44 Prozent.
Diese Entwicklung macht die Frage nach Souveränität dringlicher. Agenten arbeiten nicht nur mit Informationen, sondern können zunehmend selbstständig Aufgaben ausführen, Systeme ansprechen und Prozesse anstoßen. Damit steigen auch die Anforderungen an Datenkontrolle, Zugriffsrechte, Governance und die Kontrolle über die zugrunde liegende Infrastruktur.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
IDC sieht in dieser agentischen Welle deshalb einen möglichen Auslöser dafür, souveräne KI vom Nebenthema zur strategischen Unternehmensinitiative zu machen. Bestehende Ansätze und die mangelnde Vorbereitung könnten Unternehmen mit der zunehmenden Verbreitung von Agenten neuen Risiken aussetzen.
Infrastruktur und Skills als Bremsen
Bei der Umsetzung fehlt es vor allem an den notwendigen Voraussetzungen. Als größte einzelne Hürde nennen die Befragten die Infrastruktur. Hinzu kommen Kosten und Budget, organisatorische Fragen sowie fehlende Fachkräfte.
Damit wird deutlich: Souveräne KI ist nicht allein eine Frage der Auswahl eines passenden KI-Modells. Unternehmen müssen auch klären, wo Modelle und Daten betrieben werden, wer Zugriff und Kontrolle besitzt, wie Governance funktioniert und welche Kompetenzen dafür intern vorhanden sein müssen.
Gerade hier sehen die deutschen Befragten einen Bedarf an entsprechenden Fähigkeiten auf Anbieterseite. Gefragt sind insbesondere transparente Modell-Governance, klare Dateneigentümerschaft und regionale Hosting-Garantien.
Souveränität wird zum Geschäftsargument
Souveräne KI wird zudem nicht mehr ausschließlich als Sicherheits- oder Compliance-Thema betrachtet. Zunehmend gilt sie auch als möglicher Wettbewerbsvorteil. Unternehmen verbinden mit mehr Kontrolle über ihre KI-Systeme nicht nur geringere Abhängigkeiten, sondern auch mehr Resilienz und die Möglichkeit, kritische KI-Anwendungen unabhängiger von externen Rahmenbedingungen zu betreiben.
Damit verschiebt sich die Perspektive: Souveränität wird vom technischen Spezialthema zu einer Frage des Geschäftsmodells und der strategischen Handlungsfähigkeit.
Bedarfsliste für Systemhäuser und MSPs
Der Handlungsdruck dürfte weiter zunehmen. 75 Prozent der deutschen Befragten erwarten, dass der Fokus auf souveräne KI in den nächsten zwei bis drei Jahren wächst. Gleichzeitig wollen 62 Prozent innerhalb eines Jahres sensible KI-Workloads oder Daten unter direkte Kontrolle bringen.
Genau dort liegen die Ansatzpunkte für Systemhäuser, MSPs und Beratungen. Aufklärung, Governance-Design, souveränitätsfähige Infrastruktur und der Aufbau entsprechender Skills gehören zu den zentralen Engstellen auf dem Weg zu einer strategischen KI-Souveränität.
Die IDC-Empfehlungen für Unternehmen zielen entsprechend auf:
eine strategische Vision mit messbaren Zielen,
klare Verantwortlichkeiten bei CAIO oder CIO/CTO,
eine stärkere Abstimmung von IT und Fachbereichen sowie den Aufbau eines gemeinsamen Verständnisses und
Investitionen in Plattformen und Kompetenzen – intern wie extern.
Für Unternehmen bedeutet das: Wer souveräne KI erst dann zum Thema macht, wenn KI-Agenten bereits tief in Geschäftsprozesse integriert sind, könnte zu spät kommen. Die technische Entwicklung schreitet schneller voran als die organisatorische Vorbereitung. Souveränität wird damit zunehmend zu einer Voraussetzung dafür, KI nicht nur einsetzen, sondern auch langfristig kontrollieren zu können.
Zur Studie
Mit der Studie „The state of sovereign AI adoption“ befragte IDC im April und Mai 2026 im Auftrag von Cohere 508 für KI-Beschaffung verantwortliche IT- und Business-Entscheider in Kanada, den USA, Großbritannien und Deutschland. Die Stichprobe umfasst Großunternehmen mit über einer Milliarde US-Dollar Umsatz aus Healthcare und Life Sciences, Finanzdienstleistung, öffentlichem Sektor, Energie, Fertigung und Telekommunikation.