Das EU-KI-Gesetz bezieht sich auf einen vorgeschlagenen Rechtsrahmen für Systeme der künstlichen Intelligenz (KI) innerhalb der Europäischen Union. Das Europaparlament hat an diesem Mittwoch seine Position zum „AI Act“ beschlossen, dem Gesetz, das KI-Anwendungen in Risikoklassen einteilt und entsprechende Auflagen macht.
Das EU-KI-Gesetz ist Teil der Bemühungen der Europäischen Kommission, einen harmonisierten Rechtsrahmen für KI-Technologien in den EU-Mitgliedstaaten zu schaffen. Er soll sicherstellen, dass KI-Systeme, die in der EU entwickelt und eingesetzt werden, bestimmte ethische und rechtliche Standards einhalten und gleichzeitig Innovation und Wettbewerbsfähigkeit fördern.
Zu den wichtigsten Bestimmungen und Grundsätzen, die im EU-KI-Gesetz vorgeschlagen werden, gehören:
1. Risikobasierter Ansatz: Der Rechtsakt stuft KI-Systeme in vier Risikostufen ein: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Die Anforderungen und Verpflichtungen für Entwickler und Nutzer von KI-Systemen variieren je nach Risikostufe.
2. Verbotene Praktiken: Das EU-KI-Gesetz nennt bestimmte KI-Anwendungen als verbotene Praktiken, z. B. KI-Systeme, die das menschliche Verhalten manipulieren, um Schwachstellen auszunutzen, oder die unterschwellige Techniken anwenden, um das Verhalten einer Person so zu beeinflussen, dass sie physischen oder psychischen Schaden anrichtet.
3. Transparenz und Rechenschaftspflicht: Das Gesetz betont die Transparenz, indem es verlangt, dass KI-Systeme den Nutzern klare und genaue Informationen über die Fähigkeiten des Systems, seine Grenzen und die Art und Weise, wie Entscheidungen getroffen werden, liefern. Außerdem wird die Rechenschaftspflicht betont, indem Entwickler für die von ihnen geschaffenen KI-Systeme verantwortlich gemacht werden.
4. Hochriskante KI-Systeme: Für KI-Systeme, die als hochriskant gelten, wie z. B. solche, die in kritischen Infrastrukturen, im Transportwesen, im Gesundheitswesen oder im öffentlichen Dienst eingesetzt werden, werden spezifische Anforderungen vorgeschlagen. Dazu gehören Datenqualität, Dokumentation, menschliche Aufsicht, Robustheit, Genauigkeit und Schutzmaßnahmen gegen Vorurteile und Diskriminierung.
5. Konformitätsbewertung: KI-Systeme mit hohem Risiko müssen von einer benannten Stelle einer Konformitätsbewertung unterzogen werden, um die Einhaltung der im EU-KI-Gesetz festgelegten Anforderungen zu gewährleisten. Bei der Bewertung wird überprüft, ob das KI-System die erforderlichen Sicherheits-, Transparenz- und Rechenschaftsstandards erfüllt.
6. Durchsetzung und Sanktionen: Der Rechtsakt sieht ein System von Durchsetzungsmaßnahmen und Sanktionen für die Nichteinhaltung vor. Diese Maßnahmen können Geldstrafen von bis zu 30 Millionen Euro oder bis zu 6 % des gesamten weltweiten Jahresumsatzes des Unternehmens umfassen, je nachdem, welcher Betrag höher ist.
Die heute beginnenden trilateralen Verhandlungen zwischen Parlamenten, Räten und Ausschüssen bieten dazu die Gelegenheit. Erst wenn diese drei Instanzen einen Kompromiss gefunden haben, wird das KI-Gesetz verabschiedet. Die Verhandlungen werden im Herbst abgeschlossen und das KI-Gesetz könnte 2024 in Kraft treten.