Die automatisierte Hass-Erkennung

Von der digitalisierten Bösartigkeit der akademischen Gesellschaft.

Heise: Hate Speech: KI “BoTox” soll Hass im Netz automatisiert melden​

Ein Team der Hochschule Darmstadt arbeitet seit August mit dem Forschungsprojekt BoTox (Bot- und Kontexterkennung im Umfeld von Hasskommentaren) an einem System, das mithilfe Künstlicher Intelligenz sogenannte “Hate Speech” im Internet finden soll. BoTox soll automatisch erkennen, wann Social-Media-Postings und Kommunikationsverläufe Aspekte wie Beleidigung, Volksverhetzung oder Gewaltandrohungen erfüllen.

Interessante Frage, woher die das überhaupt wissen wollen und worauf die das trainieren. Denn an der richtigen Einordnung von Beleidigung scheitern viele Juristen, und Volksverhetzung kann man schon wegen mangelnder Normenklarheit nicht klassifizieren. Was eine Beleidigung ist, ist im Gesetz übrigens gar nicht definiert. Und viele Urteile halten einer verfassungsrechtlichen Prüfung nicht stand.

Woher wollen die also wissen, wann das vorliegt? Und worauf trainieren die?

“Wir haben zwölf unterschiedliche Straftatbestände herausgearbeitet”, erläutert die Computerlinguistin Melanie Siegel. Die geplante Software soll darunter fallende Äußerungen mithilfe von maschinellem Lernen und Künstlicher Intelligenz (KI) nicht nur automatisiert identifizieren, sondern auch auswerten, vorklassifizieren und an die Meldestelle HessenGegenHetze weiterleiten können.

Aha.

Wieder so eine Meldestelle.

Auf welcher Rechtsgrundlage eigentlich? Politische Meinungen sind besondere Kategorien von Daten, die gar nicht ohne weiteres erhoben, verarbeitet und übermittelt werden dürfen.

Und ich hätte da mal eine Frage: In welchen Sprachen? Nur Deutsch? Oder auch Türkisch, Arabisch, Russisch? Afrikanische Dialekte?

Das wäre verfassungswidrig, weil man nicht aufgrund seiner Herkunft benachteiligt werden darf.

Juristische Kenntnisse und Grundlagen steuert der Digitalforensiker Dirk Labudde von der Hochschule Fresenius in Idstein bei.

Kann wohl nicht viel gewesen sein, sonst würden die das so gar nicht machen. Apropos Forensiker: Laut Wikipedia ist der „Bioinformatiker“ und Mediziner. Was steht da noch auf Wikipedia über den?

Im Prozess wurde er für das Vorgehen und behauptete methodische Fehler bei der Gutachtenerstellung stark kritisiert. Der Verteidiger der Beschuldigten, Stefan König, warf ihm eine „unseriöse, voreilige und voreingenommene Vorgehensweise“ vor. Er sprach weiter von einem „pseudowissenschaftlichen“ Vorgehen von Labudde, der selbst vor einer Lüge vor Gericht nicht zurückschrecke.[3] Insgesamt wurden das Gutachten und die (neue) Methode sehr kritisch bewertet.[4] Der Ablehnungsantrag der Verteidigung gegen Labudde wurde vom Gericht als unbegründet zurückgewiesen.[3] Die neue Methode der Ganganalyse wurde später weiter entwickelt und wissenschaftlich abgesichert.[5]

Und der steuert die juristischen Kenntnisse für so eine Nummer bei? Na, dann wünsche ich viel Glück und Erfolg.

Offenbar versucht man jetzt, automatisiert jede Äußerung zu erfassen und jede Abweichung von der Soll-Linie sofort an die Strafverfolgungsbehörden weiterzuleiten, um jede Kritik sofort abzuwürgen.

Interessante Frage: Wer macht sich da eigentlich der Falschen Verdächtigung (§ 164 StGB) schuldig, wenn es nicht stimmt?

Und fallen solche Suchverfahren nicht datenschutzrechtlich unter ein „Scoring“, zu dem man zustimmen müsste?

Ich halte so etwas für ausgesprochen problematisch.

Und vor allem: Für eine groteske Übersteigerung der DDR. Die mussten wenigstens noch einzelne Abgehörgeräte installieren und inoffizielle Mitarbeiter anwerben, um einen abzuhören. Die machen das dann flächendeckend.

Die amerikanischen Verfassungsrechtler halten so etwas übrigens für verboten, weil allein schon der Vorgang einen sogenannten „chilling effect“ hat, einen Abkühlungseffekt, weil man schon aus Angst davor Meinungsäußerungen unterlässt oder abschwächt. Allein schon so eine Ankündigung wäre deshalb eine Verletzung der Meinungsfreiheit.

Digitale Forensik

Mir fällt daran noch etwas auf. So soll er laut Wikipedia bei der Untersuchung des Goldmünzendiebstahls im Bode-Museum beteiligt gewesen sein und Bewegungsanalysen geliefert haben.

In seinem Bericht hatte Labudde aus Videoaufnahmen eine digitale Simulation erstellt und daraus auf die Beschuldigten geschlossen.

Hier etwa schreiben sie über ihn

Als Beispiel, wie analoge und digitale Forensik Hand in Hand gehen, hat er einen Fall parat. Es ging um Raubüberfälle in Spielotheken. “Es gab Videoaufnahmen der Überwachungskameras, die von der Qualität nicht sehr gut waren”, erzählt Labudde. Außerdem war Bekleidung der Täter in einem Fluchtwagen sichergestellt worden.

“Wir haben die Videos analysiert und die Bekleidung genau beschrieben.” Dabei konnten er und sein Team einen Fleck auf der Schulter einer Jacke feststellen. “Wir haben uns dann die Jacke ins Labor bringen lassen. Da ging es dann von der digitalen in die analoge Welt”, sagt er.

Mit bloßem Auge sei nichts zu erkennen gewesen. Doch eine Bestrahlung mit unterschiedlichem forensischen Licht habe den Fleck sichtbar gemacht. “So konnten wir dieses besondere Merkmal feststellen und die Jacke aus dem Fluchtwagen den Videoaufnahmen zuordnen”, so Labudde.

Forensisches Licht.

Sorry, wenn ich das mal so sage, aber: „Digitale Forensik“ ist was anderes. Die hier beschreiben das richtig:

Digitale Forensik befasst sich mit der Sammlung, Aufbereitung und Analyse digitaler Spuren zur Verwendung vor Gericht. Ausgangspunkt ist jeweils der Verdacht auf einen Computereinbruch oder eine Straftat, die mit Hilfe von digitalen Geräten vorgenommen worden ist.

Jo. Stimmt.

Und die, die nicht mal ihre eigene Arbeit mit richtigen Begriffen beschreiben können, wollen nun per KI strafbare Äußerungen feststellen?

Von Verfassungsrechtlern sagen sie übrigens nichts.