Mobile-Menu

Infos zu Sicherheitsrisiken und Schutzmaßnahmen KI im Alltag: Was Verbraucher wissen müssen

Von Heidi Schuster 2 min Lesedauer

Anbieter zum Thema

BSI Bundesamt f. Sicherheit in der Informationstechnik
Fsas Technologies GmbH
mibeca GmbH – Mike Bergmann Akademie

Künstliche Intelligenz ist mittlerweile bei vielen Menschen fest im Alltag integriert, sei es als Sprachassistent oder beim Entsperren des Smartphones. Es muss aber Vorsicht geboten sein und darüber informiert das BSI.

Manchmal geben KIs völlig falsche Antworten – sie halluzinieren. (Bild: Imagecreator - stock.adobe.com)
Manchmal geben KIs völlig falsche Antworten – sie halluzinieren.
(Bild: Imagecreator - stock.adobe.com)

Sorglos Künstliche Intelligenzen zu nutzen ist nicht ratsam. KI-Anwendungen erfassen beispielsweise große Datenmengen, auf die es mitunter auch Cyberkriminelle abgesehen haben. Sie versuchen zum Beispiel, die Eingaben von Nutzerinnen und Nutzern auszulesen. Denkbar ist auch, dass Cyberkriminelle Anwendungen so manipulieren, dass sie nicht mehr oder anders als vorgesehen reagieren – beispielsweise gezielt nach sensiblen Daten fragen. Postadresse, Passwörter oder Kreditkarteninformationen sollten jedoch nicht in falsche Hände geraten und daher auch nicht unüberlegt beispielsweise in Eingabefeldern von Sprachmodellen landen. Indem sie möglichst wenig über sich preisgeben, minimieren Nutzer im Ernstfall den Schaden, erklärt das Bundesamt für Sicherheit in der Informationstechnik (BSI).

Bei der KI-Nutzung darf man auch nicht vergessen, dass sie sich durchaus irren kann oder gar halluziniert. Dabei stützen sich KIs etwa auf Quellen, die sie frei erfunden haben. Im Alltag gilt es, das Risiko abzuwägen. Irrt sich eine Gesundheitsanwendung, die auf Basis bestimmter Symptome eine Diagnose stellt, kann dies ernsthafte Konsequenzen haben. Ordnet eine KI-basierte Foto-App hingegen das Foto einer Person dem falschen Kontakt zu, ist das weniger gravierend. Grundsätzlich wichtig ist jedoch, dass Nutzer die Vorschläge der Anwendung kritisch hinterfragen.

Nicht zuletzt verwenden auch Kriminelle Künstliche Intelligenz – zum Beispiel um Betrugsmaschen zu verbessern. Mithilfe von KI ist es etwa leicht, E-Mails auch ohne Sprachkenntnisse zu verfassen. Darüber hinaus ermöglicht KI es, Videos zu manipulieren oder die Stimmen anderer am Telefon zu imitieren. So können sich Betrügerinnen und Betrüger zum Beispiel als enge Kontakte einer Person ausgeben, eine Notlage fingieren und um Geldzahlungen bitten. Wer Verdacht schöpft, sollte die jeweilige Person oder auch Institution auf anderem Weg kontaktieren – im Zweifelsfall analog.

Den „Wegweiser für den digitalen Alltag: Künstliche Intelligenz sicher nutzen“ mit allen elf Handlungsempfehlungen können Verbraucher sowie Multiplikatoren aus der Präventions- und Vermittlungsarbeit kostenlos auf der Webseite des BSI herunterladen oder als Printversion bestellen.

In der 50. Folge des BSI-Podcasts „Update verfügbar“ blickt das Moderationsduo außerdem gemeinsam mit BSI-Mitarbeiterin Annika Rüll auf den Hype rund um KI und diskutiert: Wo steht KI heute?

Darüber hinaus finden Verbraucher auch auf der Website des BSI weiterführende Informationen rund um IT-Sicherheit und IT-Themen wie Künstliche Intelligenz.

(ID:50300307)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte

Jobs