Definition Was ist Diskriminierung ?

Autor / Redakteur: zeroshope / Ann-Marie Struck

IT-Systeme können diskriminieren. Besonders intensive Konsequenzen kann dies im Bereich der künstlichen Intelligenz haben. Die Diskriminierung rührt von Fehlern beim Training der Algorithmen her. Dies lässt sich vermeiden.

Firmen zum Thema

Grundlagenwissen zum IT-Business
Grundlagenwissen zum IT-Business
(Bild: © adiruch na chiangmai - Fotolia.com)

Diskriminierung meint die Ausgrenzung und Herabsetzung bestimmter Personengruppen aufgrund von Geschlecht, körperlichen Merkmalen wie der Hautfarbe oder des kulturellen Hintergrunds wie z.B. der Religion. Ungewollt erben IT-Systeme oft ein solches Verhalten. Krasse Konsequenzen hat dies im Bereich der künstlichen Intelligenz (KI). Hierzu seien einige Beispiele genannt:

  • In den USA sortiert eine KI in Krankenhäusern Patienten nach Behandlungsbedürftigkeit. Dabei berücksichtigt das System die finanziellen Aufwendungen der jeweiligen Einrichtungen. Schwarze wandern nach hinten, da Weiße oft wesentlich besser versichert sind, was als positiv in die Entscheidung einfließt.
  • Systeme der Gesichtserkennung werden in der Regel von weißen Männern trainiert. Die KI hat deshalb Probleme, Frauen und Männer anderer Hautfarbe zu erkennen. Dies kann große Schwierigkeiten machen, da Sicherheitsbehörden diese Systeme verwenden.
  • In den USA unterstützt eine KI die Justiz bei der Entscheidung, ob Strafen zur Bewährung ausgesetzt werden. Diese basiert auf Jahren, die Menschen mit unterschiedlichen Hautfarben bislang im Gefängnis verbracht haben. Da die Gerichte früher (und teilweise bis heute) rassistisch urteilten, haben Nicht-Weiße viel geringere Chancen auf eine Bewährung.
  • Microsoft hat einen Chatbot entwickelt, der von Interaktionen mit Menschen lernte. Dieser musste nach kurzer Zeit vom Netz genommen werden, da er andere Nutzer rassistisch beleidigte.

Die Vererbung passiert über die Algorithmen

Die Vererbung der Diskriminierung vom Menschen zu den IT-Systemen passiert über die Algorithmen. Die Logikketten legen fest, wie die Maschine lernt und Entscheidungen trifft. Wird sie mit rassistischem Datenmaterial gefüttert, übernimmt sie diesen Gesichtspunkt. Dass dies unbewusst geschehen kann, zeigt das Beispiel der Gesichtserkennung sehr gut.

Diskriminierung mittels Software verhindern

Es gibt verschiedene Wege, um zu verhindern, dass eine Diskriminierung mittels Software passiert. Erstens können die Systeme bewusst angepasst werden. Dem Algorithmus kann beispielsweise verboten werden, das Kriterium Hautfarbe oder Geschlecht zu berücksichtigen. Zweitens können Simulationen durchgeführt werden. Hierbei werden bestimmte Ziele definiert und in Testläufen zeigt sich, ob die Software diese erreicht. Insbesondere für eine KI ist eine Kombination aus beiden Optionen empfehlenswert.

(ID:47452443)