Neues EU-Recht zur Nutzung von Künstlicher Intelligenz

Wäre schön, wenn wir erst einmal an der Nutzung der Natürlichen arbeiten würden.

Die EU hat einen AI Act erlassen.

Der Standard: Ab Februar darf man KI beruflich nur noch nutzen, wenn man kompetent genug ist

Künstliche Intelligenz (KI) bietet viel Potenzial, aber große Gefahren – darüber sind sich die meisten politischen Entscheidungsträger einig, weshalb man sich in der Europäpischen Union auch auf ein entsprechendes Regelwerk geeinigt hat: den AI Act. Dieser ist seit 2. 8. 2024 in Kraft, seine diversen Anforderungen werden schrittweise implementiert. Der nächste Meilenstein wird am 2. 2. 2025 gesetzt. Ab dann sind KI-Systeme mit unannehmbaren Risiken verboten, außerdem besteht eine “Verpflichtung für KI Kompetenz”, wie es unter anderem auf einer Informationsseite des BKA heißt.

Die Verpflichtung zu KI-Kompetenz ist in Artikel 4 des AI Act geregelt. Demnach müssen Anbieter und Betreiber von KI-Systemen – also auch Unternehmen, deren Mitarbeitende KI-Tools nutzen – Maßnahmen ergreifen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen, “über ausreichende KI-Kompetenz verfügen”. Laut BKA gilt diese Verpflichtung unabhängig von der Größe der Organisation und der Risikoklassifizierung des KI-Systems.

Was ist eigentlich „nach bestem Wissen und Gewissen“ bei Neoanalphabeten?

Und was ist „KI-Kompetenz“? Was verstehen die unter „Kompetenz“?

Verstoßen Unternehmen gegen diese Regeln, so können sie ab 2. Februar gestraft werden. Laut Informationen der Wirtschaftskammer richtet sich die Höhe der Strafe nach der Schwere des Verstoßes gegen den AI Act. Die Strafen beginnen bei 7,5 Millionen Euro oder 1,5 Prozent des weltweiten Jahresumsatzes eines Unternehmens und können bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Gewinns erreichen. Details dazu, welche Faktoren in die Höhe der Strafe einfließen, bietet die RTR.

Berücksichtigt werden sollen seitens der Unternehmen technische Kenntnisse, Erfahrung, Aus- und Weiterbildung, der Kontext der KI-Anwendung und die Personengruppen, welche die KI-Systeme nutzen sollen, heißt es im AI Act.

Aha.

Es gibt sogar eine Webseite eines „Instituts“ dazu, wo es zu Artikel 4 heißt:

Artikel 4: KI-Kompetenz

Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.

Ausreichend wozu?

Was ist überhaupt „KI“?

Artikel 3: Begriffsbestimmungen

(1) “KI-System”: ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können;

[…]

Demnach wäre jeder meiner Computer ein KI-System, weil die alle, vor allem die Server, mit einem unterschiedlichen Grad an Autonomie betrieben werden, auch eine Anpassungsfähigkeit zeigen (die fahren zum Beispiel runter, wenn sie zu heiß werden), und die leiten aus meinen Eingaben ab, welche Entscheidungen sie treffen, um eine virtuelle Umgebung zu beeinflussen: Wenn ich den Schalter drücke, fahren die Dinger kontrolliert herunter und halten virtuelle Maschinen vorher an.

Wer hat den Quatsch formuliert?

Aber es ist jetzt ganz viel verboten. Das sollte man sich mal durchlesen.