„Permission Creep“-Problematik
Herrenlose KI-Agenten häufen Nutzerrechte an

Von Dr. Stefan Riedl 6 min Lesedauer

Anbieter zum Thema

Wenn KI-Agenten schneller entstehen, als sie wieder verschwinden, entsteht ein wachsendes Delta. Zurück bleiben „herrenlose“ Instanzen, die unbemerkt Zugriffsrechte anhäufen. So wächst mit der Zeit ein unsichtbares Risiko aus Berechtigungen.

Ohne sauberen „Leaver-Prozess“ entstehen so genannte Orphan-Agenten mit aktiven Rechten – ein Risiko.(Bild:  Midjourney / KI-generiert)
Ohne sauberen „Leaver-Prozess“ entstehen so genannte Orphan-Agenten mit aktiven Rechten – ein Risiko.
(Bild: Midjourney / KI-generiert)

Es reicht nicht aus, KI-Agenten lediglich zu identifizieren und zu inventarisieren. Dr. Heiko Klarl, CEO bei Nexis, dröselt das auf: „Ein Inventar ist die Voraussetzung, aber es bleibt statisch. Es sagt, dass ein Agent existiert, aber nicht, was er darf, was er tatsächlich tut, mit welchem Risiko und welche Modelle er verwendet – Stichwort ‚EU AI Act‘.“ KI-Agenten handeln demnach (teil-)autonom, greifen kontextabhängig zu und verändern ihren Berechtigungsumfang im laufenden Betrieb. Eine reine Liste, so Klarl, veraltet damit mehr oder weniger bereits in dem Moment, in dem sie entsteht. Entscheidend sei die Kombination aus drei Faktoren:

  • erkennen,
  • bewerten und
  • korrigieren.

Und genau an dieser Stelle endet laut dem Nexis-CEO das klassische Asset-Denken und es beginnt Governance.

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung