Wir schreiben das Jahr 2035. Ein KI-gesteuerter Android überfällt eine Bank in Frankfurt. Bei diesem Überfall erbeutet der Roboter eine Millionen Euro in bar; durch sein skrupelloses und zielgesteuertes Vorgehen verletzt er drei Passanten schwer sowie einen Bankmitarbeiter leicht.
Ein fiktives Szenario, welches an den Klassiker „I, Robot“ von Isaac Asimov aus der Science-Ficition-Literatur erinnert. Asimov und die Geschichte seines Romans behandelten schon vor rund 80 Jahren die Thematik KI, Roboter und Regeln zur Regulation deren Verhaltens und Entscheidungsfindung.
Ein auf den ersten Blick absolut fiktives Horror-Szenario gewinnt auf den zweiten Blick an Realität, wenn man bedenkt, dass KI beispielsweise in Form von Sprachassistenten und ChatBots schon heute im Arbeitsalltag sowie privat eine Rolle spielt und in Zukunft zunehmend von Relevanz sein wird. Bis vor Kurzem lag jedoch noch keine konkrete Gesetzeslage zur Regulierung von eben dieser vor.
AI Act – das weltweit erste Gesetz für KIs
Am 21. Mai 2024 verabschiedete der Rat der 27 EU-Mitgliedsstaaten den AI Act – das weltweit erste gesetzliche Regelwerk zur Regulierung von KI. Eine finale Version wurde am 12. Juli 2024 endlich im Amtsblatt der EU veröffentlicht. In Kraft treten wird das Gesetz zum 01. August 2024, wobei eine vollständige Anwendbarkeit ob verschiedener Übergangsfristen zu erwarten ist – ein „Wasserfallmechanismus“ über einen Zeitraum von drei Jahren.
Mit dem AI Act als konformen Rahmen für den Einsatz von KI innerhalb der EU soll zum einen das Vertrauen in die Technologie gestärkt, zum anderen der Schutz der Grundrechte gewahrt und Missbrauch der KI verhindert werden. Auch wenn die Auswirkungen des neuen Gesetzes auf die Entwicklung von KI-Technologien beispielsweise durch neue Regularien und mögliche Haftungen noch unklar sind, stellt die Einführung des AI Acts eine Chance hinsichtlich der Umsetzung von Innovationen für die EU dar.
Achtung KI – Was sagt der AI Act?
Dass KI keine Grenzen gesetzt sind, ist künftig zumindest innerhalb der EU obsolet. Die neuen Vorschriften verbieten beispielsweise verschiedene KI-Anwendungen, welche die Rechte der Bürger:innen bedrohen, wie das biometrische Kategorisieren auf Grundlage sensibler Merkmale, die Beeinflussung oder Manipulation durch KI-Technologien oder das „Social Scoring“, d.h. die Vergabe von Punkten nach erwünschtem Verhalten, welches in China (probeweise) eingesetzt wird.
Reguliert werden soll auch der Einsatz in Bereichen, in denen beispielsweise mit sensiblen Daten gearbeitet wird und/oder die für das gesamtgesellschaftliche Leben und/oder die Sicherheit eines Landes relevant sind. Weiterhin sieht der AI Act eine Transparenz- und Kennzeichnungspflicht in Bezug auf künstlich erzeugte, bearbeitete oder veränderte Inhalte und verwendete Inhalte vor.
Ausblick
Der AI Act hat demnach einige weitreichenden Folgen für Unternehmen sowie Anwender:innen. Da die EU “nur” den juristischen Rahmen bietet, bleibt die Umsetzung technischer sowie operativer Aspekte Aufgabe der Unternehmen.
Welche Chancen und Herausforderungen aus dem AI Act resultieren und welche Anforderungen an Sie und Ihr Unternehmen gestellt werden, beleuchten wir gemeinsam auf unserem diesjährigen CFO Summit 2024.