Was ist der AI Act?
Gut drei Jahre haben die Verhandlungen über die Regeln zum Umgang mit KI gedauert, nun liegt eine Einigung darüber vor. Es handelt sich um das weltweit erste Regelwerk, das Regeln für Künstliche Intelligenz vorsieht. Dieses soll für alle beteiligten Wirtschafteilnehmenden im privaten und öffentlichen Sektor Rechtssicherheit schaffen (Entwickler:innen und Anwender:innen von KI-Systemen, Produkthersteller:innen, bevollmächtigte Vertreter:innen, Importeure oder Händler:innen). Der AI Act soll die Einführung von menschenzentrierten und vertrauenswürdigen KI-Systemen fördern und gleichzeitig ein hohes Maß an Schutz für Gesundheit, Sicherheit und Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Schutz der Umwelt gewährleisten.
Text des AI ActWas ist bis dato auf EU-Ebene passiert?
- Mit dem Weißbuch zur Künstlichen Intelligenz am 19. Feber 2020 wurden die ersten Konzepte in Bezug auf die Entwicklung von KI in der Europäischen Union dargestellt
- Am 21. April 2021 folgte die Kommission mit ihrem offiziellen Verordnungsvorschlag
- Trilogverhandlungen zwischen EU-Parlament, Rat und Kommission führten am 9. Dezember 2023 zu einer politischen Einigung
- Am 13. März 2024 verabschiedete das EU-Parlament den AI Act
Die nächsten Schritte
Das EU-Gesetz über die Künstliche Intelligenz (AI Act) befindet sich in der letzten Phase des ordentlichen Gesetzgebungsverfahrens. Am 13. März 2024 verabschiedete das EU-Parlament den AI Act. Es folgt die Abstimmung des Rats der EU („Ministerrat“) und danach die Veröffentlichung im Amtsblatt der EU.
Der AI Act soll noch 2024 in Kraft treten. Die Verpflichtungen darin werden gestaffelt Gültigkeit erlangen.
Zeitplan des AI ActZiele des AI Act
Der AI Act wurde mit dem Ziel geschaffen, einen einheitlichen Rechtsrahmen für Aspekte rund um KI-Systeme aufzustellen. Er bringt:
- Harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und den Einsatz von KI-Systemen in der Union
Beim AI Act handelt es sich um eine EU-Verordnung, wodurch unionsweit dieselben Regeln gelten. In den harmonisierten Bereichen ist es den einzelnen Mitgliedstaaten untersagt, nationale Regelungen zu erlassen. Mitgliedstaaten dürfen nur etwas regeln, sofern der AI Act dies erlaubt. Mit einheitlichen Regeln wird auch der freie Verkehr von KI-basierten Waren und Dienstleistungen über die nationalen Grenzen hinweg sichergestellt.
- Verbote bestimmter Praktiken der Künstlichen Intelligenz
Der AI Act verfolgt einen risikoadaptierten Ansatz und unterteilt KI-Systeme und Praktiken in vier Gruppen. Die erste Gruppe beinhaltete Verbote bestimmter Praktiken der Künstlichen Intelligenz. Bestimmte Anwendungsmöglichkeiten von KI-Systeme weisen ein zu großes Schädigungspotential in Bezug auf Gesundheit, körperliche Unversehrtheit und die Grundrechte auf und werden deshalb verboten. In einer abschließenden Liste werden bestimmte Praktiken aufgezählt. Dazu zählen:
- KI-Systeme, die das menschliche Verhalten manipulieren, um den freien Willen des Menschen zu umgehen;
- KI, die eingesetzt wird, um die Schwächen von Menschen auszunutzen (aufgrund ihres Alters, einer Behinderung, ihrer sozialen oder wirtschaftlichen Lage);
- biometrische Kategorisierungssysteme, um Rückschlüsse auf sensible Informationen (z. B. politische, religiöse oder philosophische Überzeugungen, sexuelle Orientierung, Rasse) zu ziehen;
- Bewertungen auf der Grundlage von Sozialverhalten oder persönlichen Merkmalen (Social Scoring);
- die Verwendung von biometrischen Echtzeit-Fernerkennungssystemen in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (mit einigen Ausnahmen wie z. B. bestimmten Opfern oder vermissten Kindern, Täter bestimmter Straftaten etc.)
- Risikobewertungsysteme, welche auf der Grundlage von Profiling das Risiko bewerten oder vorhersagen, ob eine natürliche Person straffällig wird (Predictive Policing; zu Deutsch „vorhersagende Polizeiarbeit“);
- ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken;
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen.
- Spezifische Anforderungen für KI-Systeme mit hohem Risiko und Verpflichtungen für die Betreiber solcher Systeme
In die zweite Gruppe der risikobasierten Regelungen fallen KI-Systeme mit hohem Risiko (auch Hochrisiko-KI genannt, siehe Anhang I und III des AI Act). Diese KI-Systeme weisen zwar ein großes Risikopotential auf, sollen aber nicht verboten sein. Stattdessen werden spezifische Anforderungen an KI-Systeme gestellt und den Betreibern Verpflichtungen in Bezug auf solche Systeme auferlegt.
Zu den Verpflichtungen zählen unter anderem:
- Einrichtung von Risikomanagementsystemen;
- Erfüllen der Anforderungen an die Data Governance;
- Dokumentationspflichten in technischer Hinsicht;
- Aufzeichnungspflichten;
- Transparenzpflichten in Bezug auf Anwender;
- Ausreichende Implementierung menschlicher Überwachungstools;
- Sicherstellung der Genauigkeit, Robustheit und Cybersicherheit.
- Harmonisierte Transparenzvorschriften für bestimmte KI-Systeme
Bestimmte KI-Systeme haben ein geringes Risiko, weshalb für diese im Sinne des risikobasierten Regelungsansatzes nicht die Anforderungen wie für Hochrisiko-Systeme gelten sollen, sondern Transparenzvorschriften einzuhalten sind. Etwa muss bei der Verwendung eines Chatbots darauf hingewiesen werden, dass Benutzer:innen mit einem technischen Sprachassistenten kommunizieren.
- Harmonisierte Vorschriften für das Inverkehrbringen von KI-Systeme für allgemeine Zwecke
Durch die zwischenzeitlichen Marktentwicklungen bei KI-Systemen wurden in den Verhandlungen auch Vorschriften für das Inverkehrbringen von KI-Systemen für allgemeine Zwecke (General Purpose AI) eingeführt.
- Regeln für die Marktüberwachung, die Steuerung der Marktüberwachung und die Durchsetzung
Nach dem Inverkehrbringen von KI-Systemen sollen diese durch Marktüberwachungsbehörden weiterhin überwacht werden. Fehlfunktionen eines KI-Systems sollen aufgedeckt werden können. Nutzer:innen sollen auch in die Lage versetzt werden, Verstöße gegen den AI Act melden zu können. Die Marktüberwachung und Durchsetzung soll durch nationale Marktüberwachungsbehörden sowie durch das bereits gegründete AI-Office auf EU-Ebene bewerkstelligt werden.
- Maßnahmen zur Förderung von Innovationen mit besonderem Schwerpunkt auf KMU, einschließlich Start-ups.
Um die Entwicklungsmöglichkeiten von KI nicht einzuschränken, werden auch Vorschriften zur Förderung von Innovationen festgeschrieben. Im Rahmen von Testumgebungen (sogenannten „Sandboxes“) sollen KI-Systeme (weiter-)entwickelt werden können. Dabei wird zwischen regulatorischen und operativen Sandboxes unterschieden.
Weitere relevante Rechtsakte
Bereits vor und während den Verhandlungen zum AI Act wurden auch weitere Rechtsakte auf EU-Ebene beschlossen bzw. werden noch verhandelt, welche für die Anwendung des AI Acts und für KI-Systeme von Bedeutung sind.
Weitere relevante Rechtsakte (Auszug):
- Datenschutz-Grundverordnung, E-Privacy-Richtlinie, Datenschutz-Richtlinie für den Bereich Justiz und Inneresund FAQ der DSB;
- EU-Datenverordnung ("Data Act");
- Verordnung (EU) 2022/868 ("Data Governance Act");
- Urheberrechte-Richtlinie;
- Verordnung (EU) 2022/2065 ("Digital Services Act") und weitere Informationen zum DSA auf der RTR-Website;
- KI-Haftungs-Richtlinienvorschlag (wird noch verhandelt);
- EU-Produktsicherheits-Verordnung;
- Produkthaftungsrichtlinie (Revision der Richtlinie 85/374/EWG; wird noch verhandelt).