Probleme in der Praxis Protokollpflicht im EU AI Act schafft neue Sicherheitsrisiken

Anbieter zum Thema

Graylog Germany GmbH

Securepoint GmbH

WatchGuard Technologies GmbH

mibeca GmbH – Mike Bergmann Akademie

Die neuen Vorschriften des EU-KI-Gesetzes verpflichten Anbieter, um­fang­reiche Protokolle ihrer KI-Systeme über Monate hinweg aufzubewahren. Was der Gesetzgeber als Schritt zu mehr Transparenz und Nachvollziehbarkeit versteht, kann in der Praxis neue Risiken schaffen.

Seit dem Aufkommen von Large Language Models (LLMs) bemühen sich Regulierungsbehörden (vor allem in der EU) darum, Schutzmaßnahmen zu ergreifen. Sie befürchten, dass angesichts der potenziellen Auswirkungen der Technologie auf Arbeitsplätze, Märkte und die Gesellschaft ein gewisses Maß an Kontrolle erforderlich ist, um mögliche Schäden vorherzusehen.

Das EU-KI-Gesetz (EU AI Act) enthält eine Bestimmung, die im August 2026 in Kraft getreten ist und besagt, dass Anbieter von risikoreichen KI-Systemen ihre Protokolle mindestens sechs Monate lang, ebenso wie Finanzinstitute alle Protokolle, aufbewahren müssen, die von denselben Modellen erstellt wurden. Wenn man jedoch erfährt, dass ein risikoreiches System jede Künstliche Intelligenz (KI) ist, die in den Bereichen Biometrie, kritische Infrastruktur, Bildung, Behörden, Strafverfolgung oder wesentliche öffentliche und private Dienstleistungen eingesetzt wird, wird schnell klar, dass diese Vorschriften erhebliche Auswirkungen auf die meisten Unternehmen haben.

Risk Management bei KI

EU AI Act als Wegweiser für sichere KI-Systeme

Gute Absichten, Komplikationen in der Praxis

Von außen betrachtet ist klar, dass die Forderung gut gemeint ist. Aber jeder Insider im Bereich Cybersicherheit erkennt sofort die realen operativen und finanziellen Konsequenzen, die dies hat. Man fragt sich, ob es nicht einfach auf das alte Sprichwort hinausläuft: Nur weil man etwas speichern kann, heißt das noch lange nicht, dass man es auch tun sollte.

Die Regulierungsbehörden wollen diese Protokolle, um die Rückverfolgbarkeit und Rechenschaftspflicht zu verbessern. Die Idee dahinter ist, dass Entwickler und Prüfer KI-Modelle untersuchen können, um ihr Verhalten zu verstehen, Verzerrungen zu identifizieren und sicherzustellen, dass sie den gesetzlichen und ethischen Grenzen entsprechen.

Neben den offensichtlichen Bedenken hinsichtlich Speicherkosten, betrieblicher Komplexität, Leistungsaspekten und den für die Bewältigung dieser Arbeitslast erforderlichen Fähigkeiten gibt es noch weitere spezifische Aspekte der Cybersicherheit zu berücksichtigen:

• Erweiterung der Angriffsfläche: Sechs Monate lang gesammelte Protokolle führen zu riesigen neuen Datensätzen, die natürlich zu attraktiven Zielen für Angreifer werden. Wir dürfen nicht vergessen, dass Protokolle sensible Informationen über das Modellverhalten, Trainingsdatenmuster und sogar Benutzerinteraktionen enthalten können, die zuvor nicht zentralisiert oder langfristig gespeichert wurden.

• Verstärkung von Datenverletzungen: Wenn Protokolle kompromittiert werden, reichen die Auswirkungen weit über typische Datenverletzungen hinaus. Angreifer könnten möglicherweise proprietäre Modellarchitekturen und Trainingsmethoden zurückentwickeln oder sogar sensible Trainingsdaten rekonstruieren.

• Komplexität der Zugriffskontrolle: Protokolle müssen für Aufsichtsbehörden und Ermittler zugänglich sein und gleichzeitig vor unbefugtem Zugriff geschützt werden. Dies ist etwas, was die Debatte über End-to-End-Verschlüsselung mit Social-Media-Unternehmen noch nicht gelöst hat. Wie dies umgesetzt und verwaltet wird, insbesondere in verschiedenen Rechtsordnungen mit unterschiedlichen rechtlichen Rahmenbedingungen, ist daher keine leichte Aufgabe.

• Herausforderungen bei der Aufbewahrungskette: Die Einhaltung gesetzlich zulässiger Beweisstandards für potenziell petabyteweise Logdaten erfordert ausgefeilte Systeme zur Integritätsprüfung. Lücken in der Aufbewahrungskette können forensische Beweise ungültig machen, was wiederum Haftungsrisiken mit sich bringt.

• Verstärkung von Insider-Bedrohungen: Die detaillierten Protokollierungsanforderungen bedeuten, dass mehr Mitarbeiter Zugriff auf umfassende Systeminformationen benötigen, wodurch sich die Angriffsfläche für Insider-Bedrohungen vergrößert. Mitarbeiter mit Protokollzugriff könnten potenziell wertvolle Wettbewerbsinformationen extrahieren.

• Grenzüberschreitende Datenverwaltung: Global tätige KI-Unternehmen sehen sich mit komplexen rechtlichen Fragen konfrontiert, da Protokolle möglicherweise in bestimmten Regionen gespeichert, grenzüberschreitend repliziert oder mehreren Aufsichtsbehörden mit widersprüchlichen Anforderungen zugänglich gemacht werden müssen.

DSGVO und AI Act

Keine KI ohne Datenschutz

Überdenken der KI-Sicherheitsarchitektur

Die neuen KI-Vorschriften bedeuten, dass Unternehmen über einen neuen Ansatz für Sicherheitsarchitektur, Risikomanagement und Untersuchungsmanagement nachdenken müssen. Denn im Gegensatz zur traditionellen digitalen Forensik, bei der man eine einzelne Festplatte oder Datenbank untersucht, werden KI-forensische Protokolle kontinuierlich über verteilte Systeme wie Trainingscluster, Inferenzserver, Datenpipelines und Überwachungssysteme hinweg generiert. Jeder Protokolleintrag muss nachweislich authentisch und unverändert sein.

Können Unternehmen einfach weniger speichern? Nicht ganz.

Was können Unternehmen also tun, um die Einhaltung der Vorschriften zu gewährleisten? Einige denken vielleicht darüber nach, ihre Geschäftstätigkeit in Länder mit weniger strengen Vorschriften zu verlagern oder eine abgestufte Compliance-Strategie zu implementieren, bei der in regulierten Märkten eine vollständige Protokollierung erfolgt und anderswo weniger. Dies könnte jedoch kurzsichtig sein, da es sich um ein kritisches Thema handelt, das im Falle eines Verstoßes sehr reale Konsequenzen hat.

Fazit

Die KI-Protokollierungsvorschrift gemäß dem EU-KI-Gesetz steht bevor und hat erhebliche Auswirkungen auf die Sicherheitsarchitektur, den Datenschutz und die Compliance. Unternehmen, die dies als einfache Checkbox-Übung betrachten, müssen später möglicherweise mit schwerwiegenden Konsequenzen rechnen.

Der bessere Ansatz besteht darin, jetzt mit dem Aufbau widerstandsfähiger KI-Protokollierungspraktiken zu beginnen, bevor Regulierungsbehörden, Angreifer oder Prüfer diese Entscheidung für die Unternehmen treffen.

Über den Autor: Andy Grolnick ist CEO vom SIEM-Sicherheitsanbieter Graylog. Er verfügt über mehr als dreißig Jahre Erfahrung im Aufbau und in der Führung wachstumsstarker Technologieunternehmen in den Bereichen Unternehmenssoftware, Sicherheit und Storage.

Stichtag 12. September 2025

Mehr Rechte für Nutzer – EU-Datengesetz greift ab Freitag

(ID:50628993)