Kommentar von Achim Heisler, a-h-s Systemhaus KD statt KI – Künstliche Dummheit vs. Künstliche Intelligenz

Von nun an steckt in allen Dingen eine KI oder AI. Diese Systeme werden in naher Zukunft unser Leben steuern und bestimmen. Da dies einen nicht unwesentlichen Eingriff in unser aller Leben bedeutet, sollte man einen näheren Blick auf den Entwicklungsstatus dieser Technologien werfen.

Anbieter zum Thema

DataCore Software GmbH

Fujitsu Technology Solutions GmbH

Nutanix Germany GmbH

A-H-S

Wir in der IT sind schon ein umtriebiges Völkchen. Kaum hat man ein neues Buzzword gelernt und meint, den aktuellen Hype zu kennen, wird bereits die nächste Sau durchs Dorf getrieben. Kaum haben wir uns damit abgefunden, dass ohne Digitalisierung nichts mehr funktionieren wird, müssen wir erfahren, dass wir eigentlich schon überflüssig sind.

Starke vs. schwache KI

Dazu kann man im ersten Schritt vielleicht einmal abgrenzen, worüber das Marketings-Geschrei so gerne hinweggeht. Wir müssen bei einer KI zwischen zwei wesentlichen Richtungen unterscheiden. Es wird unter Umständen einmal eine „starke“ KI geben, die in der Lage ist, zu denken, fühlen und selbstbestimmte Entscheidungen zu fällen. Diese ist aber zum heutigen Zeitpunkt, mit der von uns präferierten Technologie, noch nicht in Sicht. Worüber alle reden, ist die „schwache“ KI, der all diese Eigenschaften fehlen. Das Wort „schwach“ wird in den Pressetexten sehr gerne vergessen, weil es sich natürlich schlecht verkauft.

Achim Heisler, Geschäftsführer A-H-S kommentiert das aktuelle Geschehen rund um die „German Cloud“.

Um es vereinfacht darzustellen: Ich schmeiße auf mehr oder minder komplexe Problemstellungen immer mehr Rechenpower und versuche, die beste Lösung zu finden. Das funktioniert heute bei Problemen mit überschaubarer Parameteranzahl ganz gut und kann etwa bei der Wartung von Maschinen (Predictive Maintenance) eingesetzt werden. Werden die Probleme komplexer oder gar unscharfe Entscheidungen jenseits von 0 und 1 gefordert, versagen diese Methoden.

Mehrere Probleme treten schon bei der Datenaufnahme auf. Nehmen wir als Beispiele das autonome Fahren oder die Gesichtserkennung. Da es sich um eine schwache KI handelt, erkennt sie nichts. Sie weiß mit einem Gesicht, Tier oder einem Verkehrsschild nichts anzufangen. Was sie erkennt, sind Muster und diese auf Grund der Datenmenge oftmals noch stark reduziert. An diesem Punkt haben wir schon eine wichtige Restriktion oder Fehlerquelle. Ist mein Trainingsmaterial schlecht oder die Anzahl zu klein, ist der Wiedererkennungswert zu gering und die Wahrscheinlichkeit einer Fehlinterpretation durch die Algorithmen steigt immens an. Und ich rede hier noch nicht von den Gefahren, die durch eine absichtlich falsch trainierte KI entstehen können. Kein bekanntes System ist bisher in der Lage, einen Fehler zu erkennen. Wenn wir einer heutigen KI vertrauen, müssen wir automatisch der erstellenden Instanz vertrauen und deren hoffentlich guten Motiven.

Doch wieder nur 0 und 1

Nun kommen wir in die Phase, in der die KI Entscheidungen für uns fällt. Hier offenbart sich das größte Problem einer KI mit der heute zur Verfügung stehenden Technologie. Wir wollen Entscheidungsbäume mit Grauwerten (Bauchgefühl, Intuition…) von einer Maschine berechnen lassen, deren Welt binär ist. Um die Pseudoqualität zu verbessern, versucht man nun einfach alle Möglichkeiten zu berechnen.

Hier kommt ein weiterer heiliger Gral des aktuellen Buzzword-Bingos zum Vorschein: Der Quantencomputer. Mit ihm lösen sich alle Probleme in Luft auf. Unglaubliche Performance im Vergleich zu Standardprozessoren, undefinierte Zustände (Grauwerte) und Gedankenübertragung zwischen Rechnern. Doch mit den Quantencomputern ist es leider wie mit der kalten (heißen) Fusion oder Batterien mit 10-facher Kapazität. In der Theorie und im Labor gibt es das und verspricht tolle Ergebnisse. Doch stellt man die naheliegende Frage, ob schon einmal eine KI damit betrieben oder ein Code damit geknackt wurde, wird man nur verwunderte Blicke ernten. Denn alle „Ergebnisse“ beruhen komischerweise immer auf Modellen, die einen Quantencomputer simulieren. Es gibt momentan noch nicht einmal eine schwache KI, die etwas auf Quantencomputerbasis berechnen würde.

Das größte Potenzial dieser Technologie wird aber aus meiner Sicht verschenkt. Quantencomputer haben eben nicht nur 0 und 1 als definierte Zustände, sie sind mehr wie wir – schwankend und undefiniert. Das wäre eine tolle Grundlage für eine starke KI. Aber wir können das Potenzial (noch) nicht ausschöpfen. Wir schaffen es nur, Zustandsräume zu definieren, die wir später als 0 und 1 auslesen. Zugegebenermaßen ungeheuer schnell, aber doch nur wieder 0 und 1. Wenn nun nicht doch jemand für einen Quantensprung sorgt, erhalten wir mit dem Quantencomputer nur eine sehr schnelle, schwache KI. Auf alle Probleme, die damit zu lösen sind, wird es großen Einfluss haben, da die Genauigkeit der Vorhersage, die Anzahl der zu betrachteten Parameter und die Iterationstiefe im KI-Prozess stark ansteigen werden.

Shit In, Shit Out

Doch bei aller Performance lösen wir damit nicht einen großen Schwachpunkt der schwachen KI. Es ist der oberste Grundsatz der Statistik: Shit In, Shit Out. Denn auch wenn ich nun den Iterationsprozess extrem schnell ablaufen lassen kann (z.B. Hinderniserkennung beim autonomen Fahren) kann eine falsch programmierte Gewichtung in tiefen neuronalen Netzen (DNN) das Ergebnis fatal beeinflussen. Denn in diesem Moment hält das System eine bemalte LKW-Plane für eine Tunneleinfahrt. Und wie beim Training sind wir auch in dieser Phase nicht vor absichtlicher Manipulation gefeit. Gerade in diesem Bereich ist die Forderung nach Transparenz mehr als verständlich.

Die wertvolle Natur unserer „Grauwerte“

Gehen wir nun den Weg, den wir gerade eingeschlagen haben, konsequent weiter, hat das für mich fatale Folgen. Wir geben unsere Intelligenz und Entscheidungsvielfalt ab und zwar an Maschinen, die nur Schwarz und Weiß kennen. Im Rahmen der Profitmaximierung wird der Kostenfaktor Mensch an allen Ecken durch eine dumme, aber kostengünstige 24/7 KI ersetzt. Wir werden wie Don Quijote gegen die Windmühlen der KI kämpfen und mindestens unsere Nerven verlieren. Denn wenn wir als Individuen von Standards abweichen werden, ist das mit schwacher KI nicht abbildbar. Die Alptraumvisionen von „1984“ wird in der Realität von China 2018 und deren Social Scores locker getoppt. Schwache KI wird immer nur so gut und so moralisch sein wie deren Ersteller. Wie menschenverachtend und sexistisch sich eine schwache KI innerhalb kürzester Zeit in freier Wildbahn entwickelt, hat Microsoft mit seinem Chatbot ja bereits bewiesen. Da am Ende eine menschliche Kontrollinstanz saß, wurde nach kurzer Zeit die Reißleine gezogen und das System abgeschaltet. Das chinesische System wird aber niemand abschalten. Und auch wenn eine KI momentan „dumm“ ist, ist sie doch ein leistungsstarkes Hilfsmittel. Das kann zu unserem Vorteil eingesetzt werden (Virenschutz, Vorsorge bei Krankheiten, Verkehrsoptimierung) oder aber gegen uns (Verhaltensüberwachung, Tracking, Konsummuster). Bevor wir uns Gedanken über eine Zukunft mit einer starken KI und einer möglichen Singularität machen, sollten wir die möglichen Gefahren einer dummen KI genau im Auge behalten und uns nicht von einer emotionslosen Pseudointelligenz unsere Natur der „Grauwerte“ nehmen lassen.

(ID:45617147)