Feedback zu künstlicher Intelligenz

Tadel, Zustimmung und Horrorhinweise habe ich erhalten.

Ich habe gestern über KI geschrieben.

Von drei Lesern – darunter ein Professor – wurde ich dafür getadelt. In unterschiedlichen Artikulationen, Intensitäten und diplomatischen Stilrichtungen wurde mir dargelegt, keine Ahnung von KI zu haben.

Im wesentlichen schreiben alle drei, dass ich zwar KI schreibe, aber nur neuronale Netze meine, und die seien nur eine Teilmenge der KI. Auch seien natürlich neuronale Netze deterministisch. Man könne auch den einem trainierten Netz zugrundeliegenden Algorithmus extrahieren, es mache nur keiner.

Also damit bin ich nicht einverstanden.

Zwar habe ich den begriff „deterministisch” da etwas dramaturgisch ausgelegt, weil neuronale Netze in der Regel auf deterministischen Rechnermodellen laufen und keine Zufallszahlengeneratoren verwenden (wobei bei echten biologischen neuronalen Netzen die Nichtdeterministik darin liegt, dass die Nervenzellen nie alle gleich und fehlerfrei perfekt sind, da also immer etwas Dreck mitrechnet), aber zu deterministischem Rechnen gehört, dass man eine Spezifikation hat, mit der man klar beschreiben kann, was da passiert. Sowas ist also nicht nicht-deterministisch, weil zumindest derzeit keine nicht-deterministische Maschine zugrundeliegt (Hinweis für Laien: Es ist mit Bindestrich geschrieben, weil es eben nicht „nicht deterministisch” meint, sondern das Maschinenmodell der „nicht-deterministischen” Maschinen), es also formal nicht nicht-deterministisch ist, es aber auch meinen Vorstellungen von deterministisch zuwiderläuft, wenn man die Kiste einfach mal irgendwas rechnen lässt, wird schon gutgehen.

Ich bin auch nicht der Meinung, dass man aus einem neuronalen Netz die Algorithmen „extrahieren” kann, weil das, was man extrahiert, Parameter, Speicherzustände, Zwischenergebnisse sind, etwas einfacher gesagt, ein Snapshot und kein Algorithmus. Man kann aus einem Sortieralgorithmus auch keinen Algorithmus extrahieren, indem man sich mal den Speicherzustand der Sortierwerte rauskopiert.

Grundsätzlich kann es nur zwei Arten von KI-Verfahren gaben: Die, die selbst lernen, und die, in die man bestehendes Wissen einpackt. Denn irgendwoher muss es ja kommen. Wenn man bei der Bahn das bestehende Wissen schon hätte, bräuchte man die KI nicht. Deshalb scheiden alle solche Systeme da aus der Betrachtung aus. KI hat immer damit zu tun, dass man hofft, dass das System selbst lernt zu tun, was man ihm selbst nicht einprogrammieren konnte.

Oder um es mal mit den Worten von Danisch zu sagen: Neuronale Netze sind das Unterfangen, solange auf Speicherzellen einzuprügeln, bis sie Korrelationen für Kausalitäten halten.

Nun, wie der geneigte Leser weiß, ist die KI zwar nicht mein Fach, aber ich habe immerhin etwa 10 Jahre an einem „Institut für Algorithmen und Kognitive Systeme” verbracht, und dabei im wesentlichen herausgefunden, dass der Name eher ein Betriebsunfall war und die Berufungsvereinbarungen abdecken musste, an die sich die Professoren sowieso nie hielten. Nicht nur deshalb misstraue ich Informatikern, wenn sie ihre Begriffe nicht exakt definieren. Das könne sie zwar sehr gut (und vor allem im Gegensatz zu Geisteswissenschaftlern), aber gerade deshalb, weil sie es können und es ihr Handwerk ist, ist in der Regel etwas faul, wenn sie es mal nicht tun.

Und wir wissen bis heute nicht, was Künstliche Intelligenz ist. Wir wissen nicht mal, was Intelligenz ist. Und ich misstraue Informatikern, die da in voller Breite reingehen. Als ich noch an der Uni war, haben sie plötzlich alle Multimedia gemacht, weil es dafür von der Politik in den 90ern plötzlich Geld gab, das wollte man fördern. Keiner wusste, was Multimedia so genau ist, und keiner hat was anderes als vorher gemacht, aber wenn’s Geld gibt, sind sie plötzlich alle Multimedia-Experten. Und jetzt will die Politik europaweit KI mit viel Geld fördern, also sind sie jetzt alle KI-Experten. Was auch immer es sein mag.

Zu meiner Zeit an der Uni haben sie ein Graduiertenkolleg „Beherrschbarkeit komplexer Systeme” gegründet. So ein Alles-und-nichts-Begriff. Als ob Informatiker jemals etwas anderes unternähmen. Als ich da mal nachfragte, was sie da eigentlich treiben, gab man mir unter der Hand zu verstehen „Alles, wofür man Drittmittel bekommen kann”.

Wissenschaftler sind Drittmittelhuren, für Geld machen die alles. Und vor allem: Sind sie alles.

Und so schreibt auch keiner der drei, was KI eigentlich ist, sondern nur, dass ich nicht alles erfasst hätte. ELIZA habe ja auch dazu gehört.

Nun, wie der geneigte Leser vermutlich nicht weiß, hatte ich im 3. und 4. Semester solche KI-Themen, und zwar ein Semester Prolog und ein Semester LISP. Rätsel lösen. Oder von zweidimensionalen Liniengraphiken kantiger Gegenstände erkennen, ob die Kante des zugrundeliegenden Gegenstandes nach vorne oder hinten geknickt sein kann (es geht um diese Vexierbilder von Zimmerecken).

Nur das ausgerechnet die dafür zuständigen Institute besonders des einen, der mir später als Dekan übel Promotionsärger gemacht hat, durch algorithmische Schlampigkeit auffielen. Und letztlich waren das gewöhnliche Algorithmen, die man durch LISP und Prolog nur anders hinschrieb. Nach dem Motto: KI ist, wenn man schlampig programmiert und drauf hofft, dass der Computer die Arbeit erledigt, für die man zu faul ist. Das war der Eindruck, der sich bei mir gebildet hatte.

Interessanterweise habe ich später mal in einem vorlesungsbegleitendem Praktikum die Aufgabe gehabt, ein Programm zu schreiben, dem an die Regeln des Rubik’s Cube mitgibt, und das dann selbständig sucht und herausfindet, wie man den löst und die Lösungstabellen dann noch sukzessive verbessert. Mir fällt der Name des Algorithmus nicht mehr ein, aber die Vorlesung war Computeralgebra, es ging um Permutationsgruppen, weil den Cube zu drehen eine Permutation ist.

Eigentlich war das die gleiche Art von Aufgabe und Lösung, nur wäre keiner auf die Idee gekommen, es KI zu nennen. Es war Computeralgebra. Mathe, daraus den Algorithmus bilden, den ausprogrammieren, realisieren, implementieren, und laufen lassen. Nichts anderes waren die Aufgaben des 3. und 4. Semesters, aber da sollt es dann plötzlich „Künstliche Intelligenz” heißen, wenn man statt if/else oder case die Unterscheidungen in der Syntax von Prolog-Klauseln hinschreibt.

Seither werde ich immer sehr misstrauisch, wenn Informatiker von Künstlicher Intelligenz reden. Wenn mir also jemand damit kommt, mein Blick wäre zu eng, ich hätte nur ein Teilgebiet der KI betrachtet, dann muss er schon auf den Tisch legen können, was KI eigentlich sein soll. Das ist nämlich genau der Punkt. Meistens ist es die Sorte heißer Luft, für die man von der Politik gerade Geld bekommt. Und weil die Politik gerade unbedingt KI als die Zukunft ansieht und fördern will, ist jetzt eben jeder ein KI-Experte. Nur ich nicht.

Andere Leser stimmten mir zu. Längst würden Bildersuchen politisch manipuliert, und dass die Bildagenturen den Zeitungen bei der Bildersuche das politisch korrekte Zeug unterjubeln, auch wenn’s falsch ist, ist bekannt. Man solle, schreiben Leser, etwa einmal “black couple” und einmal “white couple” suchen und über die Unterschiede nachdenken.

Und der wüstestes Hinweis war:

Es ist noch viel schlimmer, es wird nicht nur schon lange manipuliert, sondern diese Leute treffen sich offen und diskutieren über die besten Wege:

Ich war […] auf einer großen KI Konferenz. Die hatten einen eigenen Track über Social Justice in KI, sehr gut besucht. Viele Frauen, viele in hochstehenden Positionen (Director/Fellow etc.) bei den üblichen Großkonzernen. […]

Einige der Vorträge auf der Tagung waren ok, aber bei den meisten lief es mir kalt den Rücken herunter. Diese Leute sitzen in den Schaltzentralen der Macht und programmieren ihre Ideologie direkt in die Systeme.

Beispielsweise gibt es KI-Programme, die Bewerbungen bewerten und entscheiden, wer eingestellt wird. Da wird dann systematisch die Auswahlentscheidung politisch manipuliert und kein Mensch kann das mehr sehen und kontrollieren.

KI ist eine Methode, mit der Politik in die Firmen gedrückt wird.

Ein anderer Leser schreibt mir ein – noch fiktives – Szenario, in dem Krankenkassen-KI über lebensverlängernde Maßnahmen entscheidet und die Ingenieuren weit häufiger als Künstlern zukommen lässt, weil Ingenieure auch über 60 noch dicke Krankenkassenbeiträge zahlen, Künstler aber ab 30 schon nur noch Zuschussgeschäft für die Kasse sind. Die KI könnte also aus Sicht der Krankenkasse betriebswirtschaftlich lernen.

Ein weiterer schreibt ganz real, dass Facebooks KI seine migrationskritschen Artikel als „Spam” wegputzt.

Der lustigste Hinweis:

Ein vietnamesischer Komilitone erzählte mir in den 70ern, dass ein amerikanischer Offizier in Vietnam eine einheimische Haushaltshilfe hatte. Um ihr die täglichen Anweisungen auf vietnamesisch zu geben hat sie ihm die entsprechenden Anweisungen beigebracht. Irgendwann hat er sie entlassen und eine andere Hilfe eingestellt. Leider habe diese die Anweisungen grundsätzlich falsch ausgeführt, mit der nächsten ging das genauso. Am Ende hat er die erste wieder eingestellt. Die schlaue Dame hat ihm alle Instruktionen falsch beigebracht, immer das genaue Gegenteil.

Und noch der aus der Industrie:

Wir mussten hier in der Stahlproduktion unsere Qualitätsstelle vom Spamfilter ausschließen, weil die Fotos von Stahl und Oberflächenfehlern immer als „nackte Haut“ interpretiert und als Pornografie gelöscht wurden…..

Na, dann mal los bei der Bahn.