Welche Behörden und Einrichtungen gibt es auf EU-Ebene und für was sind sie zuständig?
Auf EU-Ebene sieht der AI Act vier Behördenstellen bzw. Einrichtungen vor:
- Europäisches Amt für Künstliche Intelligenz („AI Office“);
- Europäischer Ausschuss für künstliche Intelligenz („AI Board“);
- Beratungsforum („Advisory Forum“) und das
- Wissenschaftliche Gremium unabhängiger Sachverständiger („Scientific Panel“).
Wie sie sich diese jeweils zusammenstellen und welche Aufgaben sie jeweils übernehmen soll kurz skizziert werden:
Was ist und macht das Europäische Amt für Künstliche Intelligenz („AI Office“)?
Das AI Office wurde durch Beschluss der Kommission eingerichtet und ist bei Kommission in der Generaldirektion Kommunikationsnetze, Inhalte und Technologien (DG CNCT) angesiedelt. Die übertragenen Tätigkeiten werden von bereits mit diesen Aufgaben betrauten Beamt:innen übernommen. Die dem AI Office übertragenen Aufgaben können daher bereits wahrgenommen werden.
Das AI Office übernimmt eine Fülle von Aufgaben. Diese sind einerseits im AI Act festgeschrieben, andererseits auch im Beschluss der Kommission spezifiziert. Bei der Durchführung ihrer Aufgaben hat das AI Office mit relevanten Stakeholdern (Wissenschaft, KI-Entwicklern, Zivilgesellschaft, Sozialpartner, etc.), den unionsrechtlichen und nationalen Behörden und Stellen zusammenzuarbeiten.
Zu den im Beschlussaufgelisteten Aufgaben gehören unter anderem:
- Überwachung der Umsetzung und Anwendung des AI Act ganz allgemein auf Unionsebene. Dazu zählen insbesondere folgende Aufgaben:
- Unterstützung der Kommission bei der Vorbereitung einschlägiger Kommissionsentscheidungen, und von Durchführungs- und delegierten Rechtsakten; Ausarbeitung von Anleitungen und Leitlinien zur Unterstützung der praktischen Umsetzung des AI Act; Vorbereitung von Normungsaufträgen, Bewertung bestehender Normen und der Ausarbeitung gemeinsamer Spezifikationen;
- Beitrag zur Bereitstellung von technischer Unterstützung, Beratung und Instrumenten für die Einrichtung und den Betrieb von KI-Reallaboren;
- Durchführung von Bewertungen und Überprüfungen sowie Erstellung von Berichten;
- Koordinierung der Einrichtung eines wirksamen Governance-Systems, unter anderem durch Vorbereitung der Einsetzung von Beratungsgremien auf Unionsebene;
- Bereitstellung des Sekretariats für den AI Board und seine Unterausschüsse, sowie administrative Unterstützung des Advisory Forums und des Scientific Panels;
- Förderung und Erleichterung der Ausarbeitung von Verfahrens- und Verhaltenskodizes.
- Überwachung der Umsetzung und Anwendung des AI Act im Zusammenhang mit KI-Modellen mit allgemeinem Verwendungszweck („General Purpose AI“, GPAI). Dazu zählen insbesondere folgende Aufgaben:
- Marktüberwachungsbehörde bei GPAI-Systemen, wo das Modell und das System vom gleichen Anbieter stammen (Art 75 AIA);
- Entwicklung von Werkzeugen, Methoden und Benchmarks zur Bewertung der Fähigkeiten von GPAI, insbesondere für sehr große GPAI mit systemischen Risiken;
- Überwachung des Auftretens unvorhergesehener Risiken, die sich aus GPAI-Modellen ergeben, unter anderem durch Reaktion auf Warnungen des wissenschaftlichen Gremiums;
- Koordinierung der Überwachung und Durchsetzung von Rechtsvorschriften, für die die Kommission Aufsichts- und Durchsetzungsbefugnisse hat (z. B. Digital Services Act oder Digital Markets Act);
- Unterstützung der Umsetzung der Vorschriften über verbotene KI-Praktiken und Hochrisiko-KI-Systeme in Abstimmung mit den nach den sektoralen Rechtsvorschriften zuständigen Stellen, einschließlich der Erleichterung des Informationsaustauschs und der Zusammenarbeit zwischen den nationalen Behörden, der Sammlung von Meldungen und der Einrichtung von Informationsplattformen und Datenbanken, insbesondere wenn ein GPAI-Modell in ein Hochrisiko-KI-System integriert wird.
- Zusammenarbeit mit Stakeholdern, Überwachung der Umsetzung und Anwendung des AI Act;
- Internationale Kooperation mit Drittstaaten und internationalen Organisationen, um einen Beitrag zu einem strategischen, kohärenten und wirksamen Ansatz der Union im Bereich der KI in Abstimmung mit den Mitgliedstaaten und im Einklang mit den Standpunkten und Politiken der Union sicherzustellen;
- Die Förderung der sektorenübergreifenden Zusammenarbeit innerhalb der Kommission;
- Unterstützung der Entwicklung, Einführung und Nutzung vertrauenswürdiger KI-Systeme und -Anwendungen, die gesellschaftliche und wirtschaftliche Vorteile bringen und zur Wettbewerbsfähigkeit und zum Wirtschaftswachstum der Union beitragen. Insbesondere die Förderung der Innovationsökosysteme durch die Zusammenarbeit mit den einschlägigen öffentlichen und privaten Akteuren und der Startup-Community;
- Marktbeobachtung der KI-Märkte und -Technologien.
Was ist und macht der Europäischer Ausschuss für künstliche Intelligenz (European Artificial Intelligence Board – „AI Board“)?
Das AI Board setzt sich zusammen aus je einem Repräsentanten jedes Mitgliedstaates, dem Europäischen Datenschutzbeauftragten und des AI Office, wobei der Europäische Datenschutzbeauftragter dabei die Position des Beobachters übernimmt und das AI Office bei Abstimmungen nicht teilnimmt. Andere nationale und europäische Behörden, Stellen oder Experten können bei relevanten Themen eingeladen werden. Den Vorsitz bildet ein Repräsentant eines Mitgliedstaates.
Repräsentanten werden von den Mitgliedstaaten auf drei Jahre gewählt und können einmal wiedergewählt werden. Bei der Wahl des Repräsentanten sind folgende Kriterien zu berücksichtigen:
- Jeder Repräsentant muss innerstaatlich über die nötigen Kompetenzen verfügen, um die Aufgaben des AI Board umsetzen zu können;
- Jeder Repräsentant muss Befugnisse haben, die Durchführung dieser Verordnung zu erleichtern, etwa durch Erhebung einschlägiger Daten;
- Jeder Repräsentant hat als zentrale Kontaktstelle zwischen Mitgliedstaat und AI Board zu dienen; gegebenenfalls soll dieser auch als Ansprechpartner für Stakeholder in ihrem Mitgliedstaat dienen.
Die Objektivität und Unparteilichkeit des AI Board ist zu gewährleisten.
Das AI Board übernimmt unter anderem folgende Aufgaben:
- Beitrag zur Koordinierung zwischen den für die Anwendung dieser Verordnung zuständigen nationalen Behörden und Unterstützung der Marktüberwachungsbehörden;
- Zusammenarbeit mit anderen Organen, Einrichtungen, Ämtern und Agenturen der Union sowie zuständigen Behörden von Drittländern und internationalen Organisationen;
- Sammlung und Austausch von technischem und regulatorischem Fachwissen und bewährten Verfahren unter den Mitgliedstaaten;
- Beratung bei der Durchführung dieser Verordnung, insbesondere in Bezug auf die Durchsetzung der Vorschriften über GPAI;
- Beitrag zur Harmonisierung der Verwaltungspraxis (Konformitätsbewertungsverfahren, KI-Reallabore und Tests unter realen Bedingungen) in den Mitgliedstaaten;
- Empfehlungen und schriftliche Stellungnahmen zu allen relevanten Fragen im Zusammenhang mit der Durchführung und Anwendung dieser Verordnung.
Das AI Board besteht aus zwei ständigen Unterausschüssen, welche die Zusammenarbeit und den Austausch zwischen den Marktüberwachungsbehörden und den notifizierenden Behörden sicherstellen sollen. Zur Bewältigung der Aufgaben können weitere ständige oder temporäre Unterausschüsse gebildet werden.
Das AI Office übernimmt die Verwaltungsaufgaben für das AI Board.
Nicht zu verwechseln ist das Advisory Forum mit dem KI-Beirat (oft auch als AI Advisory Board bezeichnet) in Österreich!
Wer ist und was macht der Beratungsforum („Advisory Forum“)?
Das Advisory Forum dient als Beratungsgremium in technischen Angelegenheiten für die Kommission und das AI Board und besteht aus Stakeholdern aus Industrie, Start-ups, KMU-Sektor, Wissenschaft, Think Tanks und Zivilgesellschaft. Die Zusammensetzung bestimmt die Kommission, wobei sie auf ein ausgewogenes Verhältnis zwischen kommerziellen und nicht-kommerziellen Interessen zu achten hat. Die Agentur für Grundrechte (FRA), die Agentur der Europäischen Union für Cybersicherheit (ENISA), das Europäische Komitee für elektrotechnische Normung (CENELEC) und das Europäische Institut für Telekommunikationsnormen (ETSI) sind ständige Mitglieder des Beratungsgremiums.
Die Mitglieder müssen ausgewiesene Kompetenzen auf dem Gebiet der Künstlichen Intelligenz haben. Die Mandatszeit beträgt zwei Jahre und kann um höchstens vier Jahre verlängert werden. Das Advisory Forum tritt mindestens zweimal im Jahr zusammen und hat einen jährlichen Tätigkeitsbericht zu verfassen, der zu veröffentlichen ist.
Dem Advisory Forum kommt als Aufgabe die Erstellung von
- Stellungnahmen,
- Empfehlungen und
- Schriftliche Stellungnahmen zu.
Zur Bewältigung der Aufgaben können ständige oder temporäre Unterausschüsse gebildet werden.
Nicht zu verwechseln ist das Advisory Forum mit dem KI-Beirat (oft auch als AI Advisory Board bezeichnet) in Österreich!
Wer ist und was macht das wissenschaftliche Gremium unabhängiger Sachverständiger („Scientific Panel“)?
Die Kommission wird im Wege eines Durchführungsrechtsakts ein Scientific Panel von unabhängigen Experten einrichten, das zur Unterstützung der Durchsetzungsmaßnahmen im Rahmen dieser Verordnung eingesetzt wird.
Die Kommission wählt die Mitglieder auf der Grundlage aktueller wissenschaftlicher oder technischer Fachkenntnisse auf dem Gebiet der Künstlichen Intelligenz aus, die für die dem Scientific Panel übertragenen Aufgaben erforderlich sind. Die Anzahl der Mitglieder bestimmt die Kommission in Abstimmung mit dem AI Board auf Basis des erforderlichen Bedarfs. Sie nimmt bei der Bestellung auf eine ausgewogene geschlechtliche und geografische Vertretung Rücksicht.
Experten müssen folgende Kriterien erfüllen:
- Besondere Sachkenntnis und Kompetenz sowie wissenschaftliches oder technisches Fachwissen auf dem Gebiet der Künstlichen Intelligenz;
- Unabhängigkeit von allen Anbietern von KI-Systemen oder GPAI-Modellen;
- Fähigkeit zur sorgfältigen, genauen und objektiven Ausführung der Tätigkeiten.
Das Scientific Panel übernimmt folgende Beratungs- und Unterstützungsleistungen:
- Durchführung und Durchsetzung dieser Verordnung, vor allem in Bezug auf GPAI-Modelle, wozu im Besonderen folgende Tätigkeiten zählen:
- Warnungen des AI Office vor möglichen Systemrisiken bei GPAI-Modellen auf Unionsebene;
- Beitrag zur Entwicklung von Instrumenten und Methoden zur Bewertung der Fähigkeiten von GPAI-Modellen, auch durch Benchmarks;
- Beratung bei der Einstufung von GPAI mit systemischem Risiko;
- Beratung bei der Klassifizierung verschiedener GPAI;
- Beitrag zur Entwicklung von Instrumenten und Vorlagen;
- Unterstützung der Arbeit der nationalen Marktaufsichtsbehörden auf deren Ersuchen;
- Unterstützung der grenzüberschreitenden Marktüberwachungstätigkeiten;
- Unterstützung des AI Office im Rahmen des „Schutzklauselverfahrens“ gemäß Art 81 AIA.
Die Mitglieder des Scientific Panel erfüllen ihre Aufgaben weisungsungebunden, unparteiisch und objektiv. Sie gewährleisten die Vertraulichkeit der Informationen und Daten, die sie bei der Wahrnehmung ihrer Aufgaben und Tätigkeiten erhalten. Jedes Mitglied gibt eine Interessenerklärung ab, welche öffentlich zugänglich gemacht wird.
Das AI Office führt Systeme und Verfahren ein, um potenzielle Interessenkonflikte aktiv zu bewältigen und zu verhindern.