Wettlauf der Algorithmen So schützen sich Unternehmen gegen KI-gestützte Cyberangriffe

Anbieter zum Thema

Delinea

G DATA CyberDefense AG

WatchGuard Technologies GmbH

XOPERO SOFTWARE S.A.

Unternehmen setzen zunehmend auf KI, um ihre Sicherheitssysteme zu optimieren. Doch auch Cyberkriminelle nutzen KI, um Angriffe präziser und schwerer erkennbar zu machen. Um sich effektiv gegen KI-gestützte Cyberangriffe zu schützen, sind moderne und anpassungsfähige Lösungen gefragt.

Die wachsende Zahl und Komplexität von Cybersicherheitsbedrohungen stellt Unternehmen vor immer größere Herausforderungen. Gartner prognostiziert, dass die weltweiten Ausgaben für Informationssicherheit dieses Jahr auf mehr als 200 Milliarden Euro steigen werden. Künstliche Intelligenz (KI) wird dabei eine zunehmend entscheidende Rolle spielen. Laut Gartner werden bis 2027 17 Prozent aller Cyberangriffe und Datenlecks auf generative KI zurückzuführen sein. Cyberkriminelle nutzen die Technologie, um Angriffe zu automatisieren und in Echtzeit anzupassen, was zu einem Wettlauf zwischen den KI-Algorithmen von Angreifern und Sicherheitsexperten führt.

Anfällig durch Open Source

So könnten Cyberkriminelle DeepSeek für Angriffe nutzen

Neue Risiken durch KI

Durch den Einsatz von KI werden Cyberangriffe nicht nur raffinierter, sondern treten auch immer häufiger auf. Eine der größten Bedrohungen für Unternehmen sind dabei die beachtlichen Fortschritte im Phishing und Social Engineering, die auf Identitätsdiebstahl abzielen. Cyberkriminelle setzen KI nicht nur ein, um E-Mails oder Textnachrichten zu verfassen, sondern können diese auch so gestalten, dass sie legitim wirken – einschließlich des richtigen Tonfalls, der Sprache und des Stils. Dabei nutzen sie häufig öffentlich zugängliche Daten oder Informationen, um ihre Angriffe zu personalisieren. Zudem setzen sie Deepfakes ein, um sich in Telefonaten beispielsweise als leitende Angestellte auszugeben und Mitarbeitende in Echtzeit zur Herausgabe sensibler Informationen zu bewegen. Phishing-Kampagnen, die auf generativer KI beruhen, sind mittlerweile so fortschrittlich, dass es nahezu unmöglich ist, zwischen echter und bösartiger Kommunikation zu unterscheiden.

Eine weitere verbreitete Taktik von Cyberkriminellen ist Business Email Compromise (BEC). Hier manipulieren Angreifer E-Mails und setzen dabei oft KI und Deepfakes unterstützend ein, um sich als Mitarbeiter eines Unternehmens auszugeben – häufig mit dem Ziel, Finanzbetrug zu begehen. Unternehmen müssen daher nicht nur menschliche Identitäten in der digitalen Welt überprüfen, sondern auch die zahlreichen digitalen Identitäten, die miteinander kommunizieren. Es reicht nicht mehr aus, Identitäten nur einmal zu verifizieren und Zugang zu gewähren. Vielmehr muss das bei jeder Interaktion erfolgen, um das Risiko von Identitätsfälschungen und Betrug zu minimieren.

ChatGPT, Copilot und DeepSeek getäuscht

Neue Jailbreak-Taktik zwingt LLMs dazu, Passwörter zu stehlen

Wettlauf der Algorithmen

Um sich ausreichend gegen raffinierte KI-gestützte Cyberangriffe zu schützen, können sich Unternehmen nicht länger auf veraltete und manuelle Sicherheitsprozesse verlassen. Sie brauchen Sicherheitslösungen, die ebenso dynamisch und anpassungsfähig sind, um nicht nur aktuelle sondern auch zukünftige Risiken durch KI erkennen und abwehren zu können. Hier liegt der Vorteil moderner KI-basierter Sicherheitsplattformen: Sie können neue Algorithmen schnell integrieren und Funktionen in Echtzeit aktivieren, um sicherzustellen, dass Unternehmen stets optimal geschützt sind.

Zero Trust als Schlüsselstrategie

Mit zunehmender Größe eines Unternehmens wird es immer wichtiger, eine mehrschichtige Verteidigungsstrategie umzusetzen, um sicherzustellen, dass ein Angriff selbst dann abgewehrt werden kann, wenn eine Sicherheitsmaßnahme versagt. Hierfür eignet sich ein Zero-Trust-Ansatz. Dieser basiert auf der Annahme, dass weder Nutzer noch Geräte automatisch vertrauenswürdig sind. Jeder Zugriff wird kontinuierlich überprüft, um sowohl externe Angriffe als auch interne Bedrohungen einzudämmen. Durch die Kombination präventiver, detektiver und abschwächender Sicherheitskontrollen können Unternehmen Bedrohungen entlang der gesamten Angriffskette frühzeitig erkennen und abwehren.

Dabei ergänzen sich die verschiedenen Schutzmaßnahmen gegenseitig: Beispielsweise können Sicherheitskontrollen für den ersten Zugriff eingesetzt werden, während intelligente Authentifizierungslösungen wie Multifactor Authentication (MFA) verdächtige Anmeldungen in Echtzeit erkennen und zusätzliche Verifizierungen anfordern. Darüber hinaus sorgen Maßnahmen wie etwa Privileged Access Management (PAM) dafür, dass Privilegien nicht missbraucht werden können. PAM beschränkt den Zugriff auf kritische Systeme und Daten auf ein Minimum und erlaubt ausschließlich sogenannte „just-in-time“ und „just-enough“ Privilegien, sodass Nutzer und Systeme nur die Rechte erhalten, die sie für ihre jeweilige Aufgabe benötigen.

DeepSeek und die DSGVO

So geht DeepSeek mit unseren Daten um

Schutz von unternehmenseigener KI

Unternehmen müssen jedoch nicht nur ihre Infrastruktur vor KI-basierten Angriffen schützen, sondern auch Risiken minimieren, die durch den internen Einsatz ihrer eigenen KI-Technologie – Agenten, Large Language Models (LLMs), Algorithmen und Datensätze – entstehen. Ein solides Identitäts- und Zugriffsmanagement ist entscheidend, um die KI vor Missbrauch oder Fehlkonfigurationen zu schützen. Dabei ist es besonders wichtig, dass Strategien für privilegierte Zugriffe auch die Nutzung aller unternehmenseigenen KI-Systeme umfassen.

Faktor Mensch

Selbst die fortschrittlichsten technischen Sicherheitslösungen können ihre Wirkung verlieren, wenn Mitarbeitende nicht in der Lage sind, potenzielle Bedrohungen zu erkennen oder angemessen darauf zu reagieren. Daher sollten Unternehmen auch das Sicherheitsbewusstsein ihrer Belegschaft durch regelmäßige Schulungen zu KI-gestützten Bedrohungen stärken. Diese sollten den Mitarbeitenden vermitteln, wie sie Phishing-Versuche, Social-Engineering-Angriffe oder verdächtige Aktivitäten erkennen und melden können. Gleichzeitig sollten sie verdeutlichen, welche Rolle jede:r Einzelne für den Gesamtschutz des Unternehmens spielt. Ein gut geschultes Team kann als erste Verteidigungslinie gegen Cyberkriminelle agieren und Angriffe oft schon im Ansatz vereiteln.

Black Hat 2024 – 15 Ways to Break Your Copilot

Sicherheitsforscher zeigt wie man Copilot missbrauchen kann

Fazit

Die wachsende Bedrohung durch KI-gestützte Cyberangriffe erfordert von Unternehmen, dass sie ihre Sicherheitsstrategien kontinuierlich anpassen. Um gegen die dynamischen, sich in Echtzeit anpassenden Angriffe vorzugehen, sind KI-basierte Sicherheitslösungen erforderlich, die in der Lage sind, Bedrohungen schnell zu erkennen, zu analysieren und abzuwehren. Ein Zero-Trust-Ansatz – kombiniert mit fortschrittlichen Technologien wie Multifactor Authentication (MFA) und Privileged Access Management (PAM) – hilft dabei, auch komplexe Angriffe zu verhindern, während die konsequente Sicherung unternehmenseigener KI-Systeme und eine Sensibilisierung der Belegschaft für potenzielle Bedrohungen einen ganzheitlichen Schutz gewährleistet. Nur so gewinnen Unternehmen den Wettlauf gegen die immer raffinierter werdende Cyberkriminalität.

Über den Autor: Andreas Müller ist Vice President Enterprise Sales Central and Eastern Europe bei Delinea.

Security-Risiko KI

Die fünf größten Security-Risiken bei Microsoft Copilot

Benutzereingaben öffentlich einsehbar

Datenbank mit sensiblen DeepSeek-Daten stand offen im Netz

(ID:50411026)