Mobile-Menu

Bedrohungen und Angriffspunkte Die unterschätzten Risiken agentischer KI‑Systeme

Von Dr. Stefan Riedl 12 min Lesedauer

Anbieter zum Thema

Deutsche Telekom MMS GmbH
WatchGuard Technologies GmbH

Agentische KI eröffnet enorme Potenziale, stellt aber neue Herausforderungen an Sicherheit und Governance. Nur durch umsichtiges Design sowie strenge Maßnahmen lassen sich Risiken begrenzen, sind Eugenio Carlon und Thomas Wächter der Telekom MMS überzeugt.

Der Einsatz von agentischen KI-Systemen birgt auch Gefahren.(Bild: Midjourney / KI-generiert)
Der Einsatz von agentischen KI-Systemen birgt auch Gefahren.
(Bild: Midjourney / KI-generiert)

„Vorsicht ist die Mutter der Porzellankiste“, „Safety first“, „Besser Vorsicht als Nachsicht“ (engl. „Better safe than sorry“) – diese Redewendungen stehen IT‑Security‑Verantwortlichen gut zu Gesicht. Trotz berechtigter Begeisterung für die Potenziale agentischer KI‑Systeme ist deshalb umsichtiges Handeln Pflicht: Autonome Agenten erweitern die Angriffsfläche, bergen Risiken für Datenschutz, Integrität und Compliance. Die Einschätzungen von Eugenio Carlon, Head of IT‑Security and Digital Trust bei Telekom MMS, und Dr.‑Ing. Thomas Wächter, Head of AI Value Engineering betonen die Notwendigkeit sicherheitsorientierter Designs. Wer nicht genau hinsieht, riskiert neue Gefahren zu übersehen.

Hintergrund

Was macht Telekom MMS?

Telekom MMS ist Teil der Deutschen Telekom‑Gruppe. Das Unternehmen begleitet Unternehmen bei der digitalen Transformation und entwickelt zukunftsfähige Geschäftsmodelle für digitale Erlebnisse. Als Digital Experience Service Provider digitale End‑to‑End‑Lösungen. Mit rund 2.150 Beschäftigten an zehn Standorten geht es im Tagesgeschäft des Unternehmens hauptsächlich um dynamisches Web‑ und Application‑Management. Das Unternehmen betreibt ein Test‑Center Softwarequalitätssicherung, Barrierefreiheit und IT‑Sicherheit.

Weiterführende Inhalte