Mehrere internationale Organisationen beschäftigen sich mit Künstlicher Intelligenz. Wir haben die wichtigsten Informationen dazu für Sie zusammengetragen.
Vereinte Nationen
- UN Secretary-General's AI Advisory Body
Im September 2024 veröffentlichte das im Büro des Sonderbeauftragten des Generalsekretärs für Technologie (OSET)
angesiedelte KI-Beratungsgremium den Bericht "Governing AI for Humanity". Dieser bietet eine Vielzahl von Perspektiven und Ansätzen zur Steuerung von Künstlicher Intelligenz im Sinne des Gemeinwohls - mit besonderem Fokus auf die Menschenrechte sowie die Ziele für nachhaltige Entwicklung (SDGs). Der Bericht enthält sieben zentrale Empfehlungen zur Stärkung der internationalen KI-Governance:- Einrichtung eines internationalen Wissenschaftspanels für KI zur Bereitstellung unabhängiger wissenschaftlicher Erkenntnisse.
- Politischer Dialog zur KI-Governance auf UN-Ebene mit interstaatlichen und Multi-Stakeholder-Formaten.
- Förderung des internationalen Austauschs über Normen und Standards für KI.
- Aufbau eines globalen Netzwerks für KI-Kapazitätsentwicklung durch Schulungen, Rechenressourcen und KI-Datensätze für Forscher und Unternehmer.
- Einrichtung eines globalen KI-Fonds zur Unterstützung lokaler Initiativen und zur Förderung der SDGs.
- Schaffung eines globalen KI-Datenrahmens zur Standardisierung von Datenprinzipien und -verwaltung.
- Gründung eines KI-Büros im UN-Sekretariat zur Koordination der Umsetzung.
- Generalversammlung
Die Generalversammlung der Vereinten Nationen hat sich in den vergangenen Jahren als wesentliches globales Forum für die Entwicklung gemeinsamer Leitprinzipien zur Governance künstlicher Intelligenz etabliert. Mit mehreren im Konsens verabschiedeten Resolutionen bekräftigte sie das Ziel, die Chancen künstlicher Intelligenz für nachhaltige Entwicklung zu nutzen und gleichzeitig Risiken wirksam zu adressieren. Einen wichtigen Meilenstein stellte dabei die am 21. März 2024 verabschiedete erste globale Resolution zur Förderung sicherer, geschützter und vertrauenswürdiger KI-Systeme dar.
In ihren Resolutionen bekräftigt die Generalversammlung ihr Engagement für den Schutz der Menschenrechte und hebt hervor, dass die Rechte, die Menschen offline genießen, auch während des gesamten Lebenszyklus von KI-Systemen in der digitalen Welt gewährleistet sein müssen. Sie fordert die Mitgliedstaaten und andere Akteure auf, die Entwicklung und Nutzung von KI-Systemen an den internationalen Menschenrechtsstandards auszurichten sowie angemessene Maßnahmen zur Risikobewertung, Risikominderung, Sicherheit und Transparenz zu ergreifen. Zugleich betont sie die Bedeutung eines inklusiven und gerechten Zugangs zu KI-Technologien, insbesondere durch internationale Zusammenarbeit, Kapazitätsaufbau und die Unterstützung von Entwicklungs- und Schwellenländern beim Abbau der digitalen Kluft.
Die wichtigsten Resolutionen der Generalversammlung im Bereich KI umfassen insbesondere:
- A/RES/78/265 (2024): Förderung sicherer, geschützter und vertrauenswürdiger KI-Systeme im Einklang mit den Menschenrechten und den Zielen für nachhaltige Entwicklung.
- A/RES/78/311 (2024): Stärkung der internationalen Zusammenarbeit beim Kapazitätsaufbau im Bereich KI, insbesondere zugunsten von Entwicklungs- und Schwellenländern.
- A/RES/79/325 (2025): Einrichtung eines unabhängigen International Scientific Panel on AI sowie eines Global Dialogue on AI Governance zur wissenschaftlichen Beratung und Förderung des internationalen Dialogs.
- A/RES/79/239 (2024) und A/RES/80/58 (2025): Förderung des internationalen Austauschs über den verantwortungsvollen Einsatz künstlicher Intelligenz im militärischen Bereich und dessen Auswirkungen auf Frieden und internationale Sicherheit.
- A/RES/80/23 (2025): Befassung mit den Risiken der Integration künstlicher Intelligenz in Führungs-, Kontroll- und Kommunikationssysteme von Atomwaffen.
- Independent International Scientific Panel on AI
Mit der oben genannten Resolution A/RES/79/325 richtete die Generalversammlung der Vereinten Nationen das Independent International Scientific Panel on AI ein. Ziel des Panels ist es, die wissenschaftlichen, gesellschaftlichen, wirtschaftlichen und technologischen Auswirkungen von KI unabhängig und evidenzbasiert zu bewerten sowie wissenschaftliche Erkenntnisse für politische Entscheidungsprozesse nutzbar zu machen. Im Unterschied zum zeitlich befristeten Advisory Body, das den Generalsekretär beratend unterstützte, handelt es sich um einen dauerhaften Mechanismus der Vereinten Nationen. Zu seinen Kernaufgaben gehört die Erstellung jährlicher wissenschaftlicher Berichte sowie thematischer Analysen zu Chancen, Risiken und Auswirkungen von KI, die insbesondere in den Global Dialogue on AI Governance einfließen.
Das Panel besteht aus 40 unabhängigen Expertinnen und Experten aus allen fünf UN-Regionalgruppen, die von der Generalversammlung im Februar 2026 auf Empfehlung des UN-Generalsekretärs ernannt wurden. Die Mitglieder stammen aus Wissenschaft, Privatwirtschaft, Zivilgesellschaft und der technischen Gemeinschaft und decken sowohl technische als auch regulatorische, ethische und gesellschaftliche Aspekte der Künstlichen Intelligenz ab.
Das Scientific Panel ist kein Regulierungs- oder Durchsetzungsorgan und entwickelt keine verbindlichen Regeln für KI. Vielmehr soll es als unabhängige wissenschaftliche Instanz verlässliche und politikrelevante Analysen bereitstellen, den internationalen Wissensaustausch fördern und Entscheidungsträgern weltweit eine fundierte Grundlage für die Gestaltung der KI-Governance bieten. Gleichzeitig versteht sich das Panel als globales Frühwarnsystem für neue Entwicklungen im Bereich der Künstlichen Intelligenz und soll dazu beitragen, wissenschaftlich fundierte Erkenntnisse von überzogenen Erwartungen oder unbegründeten Befürchtungen zu unterscheiden.
- Global Dialogue on AI Governance
Ebenfalls durch die Resolution A/RES/79/325 wurde der Global Dialogue on AI Governance eingerichtet. Er bildet das erste globale Forum der Vereinten Nationen, in dem alle Mitgliedstaaten gemeinsam mit Vertreterinnen und Vertretern des Privatsektors, der Zivilgesellschaft, der Wissenschaft sowie der technischen Gemeinschaft regelmäßig über Fragen der internationalen KI-Governance beraten. Ziel des Dialogs ist es, den Austausch von Erfahrungen und bewährten Verfahren zu fördern sowie ein gemeinsames Verständnis und kohärente Ansätze für die Governance künstlicher Intelligenz zu entwickeln.
Die Resolution legt sieben thematische Schwerpunkte für den Dialog fest. Diese umfassen sichere, geschützte und vertrauenswürdige KI, Kapazitätsaufbau, die gesellschaftlichen, wirtschaftlichen, ethischen, kulturellen, sprachlichen und technischen Auswirkungen von KI, die Interoperabilität von Governance-Ansätzen, den Schutz der Menschenrechte, Transparenz, Rechenschaftspflicht und menschliche Aufsicht sowie Open-Source-Software, offene Daten und offene KI-Modelle. Zur Vorbereitung des jährlichen Dialogs können Mitgliedstaaten und weitere Interessenträger schriftliche Beiträge zu diesen Themen einreichen.
Der erste Global Dialogue on AI Governance fand am 6. und 7. Juli 2026 in Genf am Rande des AI for Good Global Summit der Internationalen Fernmeldeunion (ITU) sowie des World Summit on the Information Society (WSIS) Forum statt.
- Internationale Fernmeldeunion (ITU)
Im Kontext der künstlichen Intelligenz nimmt die Internationale Fernmeldeunion (ITU) eine führende Position unter den Sonderorganisationen der Vereinten Nationen ein. Ihr Schwerpunkt liegt darauf, die vielfältigen Möglichkeiten zu nutzen, die KI-Technologien bieten, um die 17 Ziele für nachhaltige Entwicklung (SDGs) effektiv zu unterstützen und voranzutreiben.
Aufgrund ihres spezifischen Mandats legt die ITU ein besonderes Augenmerk auf den KI-Einsatz im Bereich der Telekommunikation und der Informations- und Kommunikationstechnologien. Darüber hinaus arbeitet(e) die ITU eng mit anderen UN-Sonderorganisationen und -Programmen in thematischen „Fokusgruppen“ zusammen, die sich mit den Herausforderungen und Möglichkeiten des KI-Einsatzes in den folgenden Bereichen befassen:
- Gesundheit (gemeinsam mit der Weltgesundheitsorganisation - abgeschlossen);
- Landwirtschaft (gemeinsam mit der Welternährungsorganisation - abgeschlossen);
- Management von Naturkatastrophen (gemeinsam mit der Weltorganisation für Meteorologie und dem Umweltprogramm der Vereinten Nationen - abgeschlossen).
Die Publikationen aller Fokusgruppen sind unter folgendem Link abrufbar.
Darüber hinaus leitet die ITU die "AI for Good"-Initiative, eine digitale Plattform, auf der KI-Innovatoren und Stakeholder sich vernetzen, um praktische KI-Lösungen zu identifizieren, die die UN-SDGs voranbringen. Ein jährlicher Höhepunkt dieser Initiative ist der AI for Good Global Summit.
Schließlich führt die ITU gemeinsam mit der UNESCO die "inter-agency working group on Artificial Intelligence" an. Diese Arbeitsgruppe bündelt die Expertise des UN-Systems im Bereich künstliche Intelligenz und unterstützt damit Initiativen zur Entwicklung einer KI-Ethik und strategischen Ansätzen zum Ausbau der Kompetenzen der Vereinten Nationen im Bereich KI.
- UNESCO
Die UNESCO konzentriert sich auf die ethischen Aspekte der KI, insbesondere im Bildungs- und Kulturbereich. Die Organisation hat die „Recommendation on the Ethics of Artificial Intelligence“ entwickelt, die als Rahmenwerk für Bildungseinrichtungen und andere Akteure dienen soll, um sicherzustellen, dass KI-Technologien im Einklang mit Grundrechten und Freiheiten eingesetzt werden. Ein besonderer Fokus liegt auf dem Schutz der kulturellen Vielfalt. Darüber hinaus organisiert die UNESCO das „Global Forum on the Ethics of Artificial Intelligence“.
Zur Unterstützung der Mitgliedstaaten bei der Umsetzung der UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz wurde die Readiness Assessment Methodology (RAM) entwickelt. Diese Methodik umfasst eine Vielzahl quantitativer und qualitativer Fragen, um Informationen zu verschiedenen Dimensionen des jeweiligen nationalen KI-Ökosystems zu erheben – darunter rechtliche und regulatorische, soziale und kulturelle, wirtschaftliche, wissenschaftliche und bildungsbezogene sowie technologische und infrastrukturelle Aspekte.
Zudem stellt die UNESCO eine breite Palette an Ressourcen und Projekten zur Verfügung, um die Kompetenzen sowohl der Mitgliedstaaten als auch der breiteren Öffentlichkeit im Bereich Künstliche Intelligenz zu stärken.
Im Jahr 2023 initiierte die UNESCO ein Projekt zur Stärkung der Kapazitäten interessierter europäischer Behörden im Bereich Künstliche Intelligenz. In diesem Zusammenhang wurde umfangreiches Schulungsmaterial für bestehende und potenzielle KI-Marktüberwachungsbehörden entwickelt, das unter anderem Inhalte im Zusammenhang mit dem AI Act behandelt.
Zu den angebotenen Trainingsmodulen gehören:
- Weltorganisation für geistiges Eigentum
Die WIPO spielt eine zentrale Rolle in den Debatten um Künstliche Intelligenz und geistiges Eigentum. Generative KI-Systeme, die umfangreiche Datensätze nutzen – darunter Texte, Bilder und andere Medien – um traditionell von Menschen erstellte Inhalte zu generieren, konfrontieren uns mit zahlreichen rechtlichen Herausforderungen. Diese umfassen unter anderem potenzielle Urheberrechtsverletzungen durch die Einbeziehung urheberrechtlich geschützter Werke in Trainingsdaten sowie den Urheberschutz für durch KI erzeugte Werke. Zusätzlich ergibt sich die Notwendigkeit, einen angemessenen Patentschutz für die KI-Modelle selbst zu gewährleisten.
Um diese komplexen Fragen zu adressieren, fördert die WIPO den internationalen Austausch und hat zu diesem Zweck die Initiative „WIPO-Gespräch über geistiges Eigentum und Künstliche Intelligenz“ ins Leben gerufen. Diese Plattform versammelt weltweit führende Experten, um die Auswirkungen der KI auf das Recht des geistigen Eigentums zu diskutieren.
- UN Global Pulse
UN Global Pulse ist eine Initiative des UN-Generalsekretariats, die darauf abzielt, Big Data und KI zur Verbesserung der humanitären und entwicklungspolitischen Arbeit einzusetzen. Durch die Analyse großer Datenmengen strebt Global Pulse danach, Erkenntnisse zu gewinnen, die schnelle und effektive Antworten auf Krisensituationen ermöglichen. Diese Initiative ist ein vorbildliches Beispiel für die Nutzung von KI zur Echtzeit-Datenanalyse.
- Internationaler Währungsfonds
Der Internationale Währungsfonds konzentriert sich auf die wirtschaftlichen und finanziellen Auswirkungen der fortschreitenden Entwicklung und Implementierung von KI-Systemen. In diesem Zusammenhang hat der IWF mehrere Veröffentlichungen vorgelegt, die sich mit verschiedenen relevanten Bereichen auseinandersetzen – darunter die Auswirkungen auf den Finanzsektor, Fragen der Vermögensverteilung, wettbewerbsbezogene Aspekte sowie Chancen und Herausforderungen im Steuerwesen. Zu den einschlägigen Veröffentlichungen zählen unter anderem:
- Fintech Note "Generative Artificial Intelligence in Finance: Risk Considerations" (2023)
- Staff Discussion Note "Gen-AI: Artificial Intelligence and the Future of Work "(2024)
- "Global Financial Stability Report" (2024)
- Technical Note "Understanding Artificial Intelligence in Tax and Customs Administration" (2024)
- Working Paper "AI Adoption and Inequality" (2025)
- Working Paper "The Global Impact of AI: Mind the Gap" (2025)
- Working Paper "AI and Productivity in Europe" (2025)
- Technical Note "Regulatory Considerations Regarding Accelerated Use of AI in Securities Markets" (2025)
- IMF Note "Global Economic and Financial Implications of Artificial Intelligence" (2026)
- UNICRI - Zentrum für Künstliche Intelligenz und Robotik
Das Zentrum für Künstliche Intelligenz und Robotik im UN-Institut für interregionale Kriminalitäts- und Justizforschung (UNICRI) wurde mit der Aufgabe ins Leben gerufen, das Verständnis für Künstliche Intelligenz, Robotik und verwandte Technologien zu fördern. Der Schwerpunkt liegt dabei insbesondere auf den Bereichen der Kriminalitäts- und Terrorismusbekämpfung sowie anderen Sicherheitsbedrohungen. Das Ziel des Zentrums ist es, die Mitgliedstaaten der Vereinten Nationen bei der Bewertung der Risiken und Chancen dieser Technologien zu unterstützen und Möglichkeiten für deren Einsatz zu erforschen, um die Bekämpfung von Gewalt und Kriminalität zu verstärken.
- Internationale Atomenergie-Organisation
Im Jahr 2022 veröffentlichte die Internationale Atomenergie-Organisation (IAEO) die Publikation „Artificial Intelligence for Accelerating Nuclear Applications, Science and Technology“. Zusätzlich bietet die IAEO die Plattform "AI for Atoms" an, die detaillierte Informationen zu den KI-bezogenen Aktivitäten der Organisation enthält, einschließlich aller relevanten Initiativen, Neuigkeiten, Publikationen und Veranstaltungen.
- UNHCR
Das UN-Flüchtlingshilfswerk (UNHCR) setzt Künstliche Intelligenz (KI) gezielt ein, um die humanitäre Hilfe zu optimieren. Dabei werden KI-Technologien genutzt, um Flüchtlingsbewegungen vorherzusagen, die Ausbreitung von Krankheiten wie COVID-19 in Flüchtlingslagern zu simulieren und die entsprechenden Reaktionen zu koordinieren. Darüber hinaus unterstützt KI die Analyse von Textdaten aus sozialen Medien und anderen Quellen, um Schutzbedürfnisse zu identifizieren und darauf zu reagieren.
Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD)
- Working Party on Artificial Intelligence Governance
Der Working Party on Artificial Intelligence Governance (AIGO) unterstützt das "Digital Policy Committee" bezüglich der KI-Politik und -Governance. Sie leitet das Arbeitsprogramm zu KI-Governance und befasst sich mit der Analyse, Umsetzung, Überwachung und Bewertung nationaler KI-Strategien.
Zu den Kernaufgaben gehören:
- die Analyse, Gestaltung, Implementierung, Überwachung und Bewertung nationaler KI-Politiken und Aktionspläne,
- die Bewertung der Auswirkungen von KI,
- die Entwicklung von Ansätzen für vertrauenswürdige und rechenschaftspflichtige KI,
- die Aufsicht über Mess- und Datenerhebungsaktivitäten im Rahmen der „Trends & Data“-Säule des OECD.AI Observatoriums,
- sowie die Durchführung von Zukunftsanalysen (Foresight-Arbeiten) zu KI und verwandten neuen Technologien.
Darüber hinaus unterstützt die AIGO die Umsetzung von OECD-Standards, fördert den internationalen Erfahrungsaustausch und entwickelt Instrumente wie das OECD.AI Policy Observatory und Globalpolicy.AI. Sie kooperiert mit internationalen Organisationen (z. B. GPAI, UNESCO, Weltbank) sowie zivilgesellschaftlichen und wirtschaftlichen Akteuren.
- Empfehlung zur Künstlichen Intelligenz
Am 22. Mai 2019 nahm der OECD-Ministerrat eine Empfehlung zur Künstlichen Intelligenz an, die vom Committee on Digital Economy Policy (CDEP) vorgeschlagen wurde. Diese Empfehlung, die erste ihrer Art auf intergouvernementaler Ebene, zielt darauf ab, durch die Förderung verantwortungsvoller KI-Praktiken Innovation und Vertrauen in die Künstliche Intelligenz zu stärken. Sie betont die Bedeutung der Menschenrechte und demokratischer Werte und ergänzt bestehende OECD-Standards in Bereichen wie Datenschutz, Risikomanagement bei digitaler Sicherheit und verantwortungsbewusstes Unternehmensverhalten.
Die Empfehlung definiert fünf werteorientierte Prinzipien für die Entwicklung und den Einsatz von KI:
- Inklusion und Nachhaltigkeit;
- menschenorientierte Werte und Fairness;
- Transparenz;
- Sicherheit;
- Verantwortlichkeit.
Darüber hinaus gibt sie den politischen Entscheidungsträgern fünf Handlungsempfehlungen. Diese umfassen:
- Investitionen in KI-Forschung und -Entwicklung;
- Förderung eines KI-Ökosystems;
- Gestaltung eines günstigen politischen Umfelds für KI;
- Aufbau von Humankapazitäten und Vorbereitung auf die Transformation des Arbeitsmarktes;
- internationale Zusammenarbeit für vertrauenswürdige KI.
Die Empfehlung wurde zweimal überarbeitet: 2023, als die Definition von KI-Systemen angepasst wurde (siehe unten), und 2024, um unter anderem der zunehmenden Bedeutung der Bekämpfung von Fehlinformationen und Desinformationen gerecht zu werden, die Anforderungen an die Transparenz und verantwortungsvolle Offenlegung zu präzisieren sowie Sicherheitsaspekte stärker zu berücksichtigen.
- Definition von KI-System
Die Anstrengungen der Organisation zielten auch darauf ab, einen allgemeinen Konsens über die Definition eines KI-Systems zu erlangen. Im Jahr 2024 genehmigten die Mitgliedstaaten der OECD eine revidierte Fassung der OECD-Definition eines KI-Systems:
“An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical real or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment”
Die Definition, die im AI Act der Europäischen Union festgelegt ist, spiegelt weitgehend jene der OECD wider:
[An AI system is] „a machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
- OECD.AI Policy Observatory
Im Februar 2020 wurde das OECD.AI Policy Observatory eingerichtet. Die Aktivitäten des Observatoriums werden von verschiedenen Expertengruppen vorangetrieben, die sich mit unterschiedlichen „prioritären Themen“ befassen, darunter:
- KI und Rechenschaftspflicht,
- KI, Daten und Datenschutz,
- Generative KI,
- KI und die Zukunft der Arbeit,
- OECD-KI-Index,
- KI-Vorfälle,
- Daten-Governance,
- AI in Government,
- Verantwortliche KI,
- Innovation und Vermarktung,
- KI-Rechenleistung und Klima,
- KI und Gesundheit,
- Die Zukunft von KI,
- WIPS: Arbeit, Innovation, Produktivität und Kompetenzen.
- Echtzeit-Datenbank für KI-Politiken und -Initiativen
Das OECD.AI Policy Observatory betreibt eine Echtzeit-Datenbank für öffentliche KI-Politiken und -Initiativen: GAIIN – der Global AI Initiatives Navigator bietet einen weltweiten Überblick über bestehende Maßnahmen im Bereich Künstliche Intelligenz.
GAIIN ist eine dynamische Datenbank, die regelmäßig von offiziellen Kontaktstellen der teilnehmenden Länder und internationalen Organisationen sowie von Expertinnen und Experten von OECD.AI aktualisiert wird.
- OECD Framework for the Classification of AI Systems
Das OECD-Framework zur Klassifizierung von KI-Systemen (Overview | Report) wurde vom OECD.AI Netzwerk von Experten entwickelt, um politischen Entscheidungsträgern, Regulierungsbehörden, Gesetzgebern und anderen Akteuren zu helfen, die Chancen und Risiken verschiedener KI-Systeme zu bewerten.
Der Rahmen klassifiziert KI-Systeme und Anwendungen anhand der folgenden Dimensionen: Menschen & Planet, Wirtschaftskontext, Daten & Eingabe, KI-Modell sowie Aufgabe & Ausgabe. Jede dieser Dimensionen verfügt über eigene Eigenschaften und Attribute oder Unterkategorien, die für die Bewertung politischer Überlegungen zu bestimmten KI-Systemen relevant sind.
- OECD AI Incidents and Hazards Monitor
Der OECD AI Incidents and Hazards Monitor (AIM) wird von der OECD-Arbeitsgruppe zu KI-Zwischenfällen entwickelt und dient dazu, tatsächliche KI-Zwischenfälle (AI incidents) sowie potenzielle KI-Gefährdungslagen (AI hazards) systematisch zu erfassen. Ziel ist es, eine evidenzbasierte Grundlage für politische und regulatorische Diskussionen über die Risiken Künstlicher Intelligenz bereitzustellen.
Ein AI incident liegt nach der OECD-Definition vor, wenn die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme unmittelbar oder mittelbar zu tatsächlichen Schäden führt, etwa für die Gesundheit von Menschen, kritische Infrastrukturen, Grund- und Menschenrechte oder Eigentum, Gemeinschaften und die Umwelt. Demgegenüber bezeichnet ein AI hazard eine Situation, in der ein KI-System mit hinreichender Wahrscheinlichkeit zu solchen Schäden führen könnte, auch wenn diese noch nicht eingetreten sind.
Der AIM identifiziert entsprechende Ereignisse anhand internationaler Nachrichtenquellen. Die Daten stammen von Event Registry, einer Plattform für Nachrichtenanalyse, die täglich mehr als 150.000 Nachrichtenartikel verarbeitet und Berichte zu demselben Ereignis zusammenführt. Seit November 2024 erfolgt die Klassifizierung der Ereignisse als AI incident oder AI hazard mithilfe von Large Language Models. Zusätzlich werden Metadaten wie Schadensart, Schweregrad, betroffene Stakeholder und das betroffene Land automatisiert ergänzt sowie ähnliche Ereignisse zusammengeführt.
- Veröffentlichungen / News
Auf der Webseite OECD.AI werden zahlreiche Veröffentlichungen und Berichte über aktuelle Forschungsarbeiten zur KI-Politik gesammelt, die in verschiedenen politischen Gemeinschaften innerhalb und außerhalb der OECD durchgeführt werden. Diese Dokumente sind nach politischen Bereichen wie Wirtschaft, Bildung, Gesundheit, Wettbewerb und digitale Ökonomie kategorisiert.
Zudem findet man in der entsprechenden Sektion der Webseite eine fortlaufende Übersicht über KI-bezogene Nachrichten aus aller Welt, wobei die Artikel je nach ihrer Einstellung zur KI als positiv, negativ oder neutral klassifiziert werden.
Europarat
- Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
Am 14. März 2024 hat der Ausschuss für Künstliche Intelligenz (CAI) des Europarates den Entwurf der Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit angenommen (Draft Explanatory Report). Das Übereinkommen wurde am 17. Mai 2024 vom Ministerkomitee des Europarates formell verabschiedet. An den Verhandlungen waren neben den Mitgliedstaaten des Europarates auch die Europäische Union sowie mehrere Nichtmitgliedstaaten, darunter die Vereinigten Staaten, beteiligt. Am 15. Mai 2026 ratifizierte die Europäische Union das Übereinkommen.
Das Rahmenübereinkommen ist der erste völkerrechtlich verbindliche internationale Vertrag, der sich umfassend mit Künstlicher Intelligenz befasst. Es enthält grundlegende Prinzipien und Verpflichtungen, die sicherstellen sollen, dass die Entwicklung und der Einsatz von KI-Systemen die Menschenrechte respektieren, die Demokratie fördern und die Rechtsstaatlichkeit wahren. Der Anwendungsbereich des Rahmenübereinkommens erstreckt sich auf das Design, die Entwicklung und den Einsatz von KI-Systemen und zielt darauf ab, diese in allen Phasen ihres Lebenszyklus zu regulieren. Das Regelwerk findet sowohl auf öffentliche als auch auf private Einrichtungen Anwendung, was bis zuletzt umstritten war. Die Ausnahmeregelungen für nationale Sicherheits-KI-Systeme wurden in einer eingeschränkten Form beibehalten.
Das Rahmenübereinkommen soll das bestehende Menschenrechtsregime auf den KI-Bereich ausdehnen. Es beinhaltet Bestimmungen zum Datenschutz und Schutz der Privatsphäre, zur Verhinderung von Diskriminierung durch KI-Einsatz und zur Sicherstellung der individuellen Freiheit, Menschenwürde und Autonomie. Die Unterzeichnerstaaten werden angehalten, Interessensgruppen in die Entwicklung und Anwendung von KI-Systemen einzubeziehen und die öffentliche Debatte zu fördern. Speziell auf KI ausgerichtete Verpflichtungen umfassen die Förderung von KI-Kompetenz in der Bevölkerung, das Prinzip der menschlichen Aufsicht und die Verpflichtung, Betroffene über Interaktionen mit KI zu informieren.
Das Übereinkommen steht im Einklang mit der EU-KI-Verordnung sowie anderen Rechtsvorschriften der Europäischen Union und integriert eine Reihe zentraler Konzepte der KI- Verordnung. Es betont eine auf den Menschen ausgerichtete KI, die mit den Grundsätzen der Menschenrechte, Demokratie und Rechtsstaatlichkeit im Einklang steht, und verfolgt einen risikobasierten Ansatz. Zu den Schlüsselprinzipien für vertrauenswürdige KI gehören Aspekte wie Transparenz, Robustheit, Sicherheit, Daten-Governance und Datenschutz.
- HUDERIA - Risiko- und Folgenabschätzung von KI-Systemen
Ergänzend zum Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit hat der Europarat HUDERIA(Human Rights, Democracy and Rule of Law Impact Assessment for AI Systems) entwickelt.
HUDERIA besteht aus zwei sich ergänzenden Bestandteilen: der HUDERIA Methodology, welche den strukturierten Ansatz für die Risiko- und Folgenabschätzung festlegt, sowie dem HUDERIA Model: Context-Based Risk Analysis (COBRA), das die systematische Erhebung und Analyse des Anwendungs-, Entwicklungs- und Einsatzkontexts eines KI-Systems unterstützt, um potenzielle Risiken zu identifizieren und geeignete Governance- und Minderungsmaßnahmen abzuleiten.
HUDERIA stellt eine unverbindliche Leitlinie dar, die einen strukturierten Ansatz zur Risiko- und Folgenabschätzung von KI-Systemen bietet. HUDERIA steht sowohl öffentlichen als auch privaten Akteuren zur Verfügung, um Risiken und Auswirkungen auf Menschenrechte, Demokratie und Rechtsstaatlichkeit während des gesamten Lebenszyklus eines KI-Systems zu identifizieren und zu bewältigen.
Die Methodik HUDERIA umfasst vier zentrale Elemente:
- Kontextbezogene Risikoanalyse (Context-Based Risk Analysis – COBRA): Diese ermöglicht eine strukturierte Erhebung und Kartierung der relevanten Informationen, um Risiken, die von einem KI-System in seinem soziotechnischen Kontext ausgehen können, zu identifizieren und zu analysieren.
- Stakeholder-Engagement-Verfahren (Stakeholder Engagement Process – SEP): Dieses Verfahren sieht die Einbindung relevanter Interessengruppen vor, um Informationen über potenziell betroffene Personen zu erhalten sowie mögliche Schäden und Maßnahmen im spezifischen Kontext zu evaluieren und zu bestätigen.
- Risiko- und Folgenabschätzung (Risk and Impact Assessment – RIA): Dieses Element enthält Leitlinien für die systematische Bewertung der mit einem KI-System verbundenen Risiken und Auswirkungen auf Menschenrechte, Demokratie und Rechtsstaatlichkeit.
- Maßnahmenplan (Mitigation Plan – MP): Dieser definiert Ansätze zur Festlegung von Maßnahmen zur Risikominderung und Beseitigung von Schäden.
G20
- Prinzipien für den verantwortungsvollen Umgang mit Künstlicher Intelligenz
Bei dem G20-Gipfeltreffen in Osaka, das im Juni 2019 stattfand, hat sich die G20-Gemeinschaft erstmals intensiv mit dem Thema Künstliche Intelligenz (KI) auseinandergesetzt. Die Staats- und Regierungschefs haben dort Prinzipien für den verantwortungsvollen Umgang mit Künstlicher Intelligenz verabschiedet, die größtenteils auf den OECD-Prinzipien für Künstliche Intelligenz basieren. Diese sollen als Basis für nationale Regelungen dienen und international tätigen Unternehmen bei der Entwicklung eigener Standards unterstützen. KI-Systeme sollten so konzipiert werden, dass sie die Rechtsstaatlichkeit, Menschenrechte, demokratische Werte und Vielfalt achten.
- Brasiliens G20 Präsidentschaft in 2024
Zusätzlich zur Förderung einer sicheren, transparenten Künstlichen Intelligenz, die zum Wohle eingesetzt wird, legte die brasilianische G20-Präsidentschaft einen besonderen Fokus auf die Bekämpfung von Ungleichheiten.
Die Abschlusserklärung des Gipfels der Staats- und Regierungschefs von Rio de Janeiro (18-19 November 2024) hebt die Chancen und Herausforderungen der Künstlichen Intelligenz (KI) hervor. Die Erklärung betont die Bedeutung einer verantwortungsvollen, inklusiven und menschenzentrierten Nutzung von KI, die den Schutz von Menschenrechten, Transparenz, Fairness und Datensicherheit gewährleistet. Ein pro-innovativer Regulierungsansatz soll Risiken minimieren und gleichzeitig die Vorteile der Technologie fördern. Zudem wird die Notwendigkeit internationaler Zusammenarbeit betont, um digitale Kluften zu überwinden und Entwicklungsländer durch Kapazitätsaufbau und Förderung digitaler Inklusion zu unterstützen.
Besondere Aufmerksamkeit gilt der Integration von KI in die Arbeitswelt. Die G20 unterstreicht die Bedeutung fairer Arbeitsbedingungen, den Schutz der Privatsphäre und den Abbau digitaler Geschlechterklüfte bis 2030. Darüber hinaus wird der verantwortungsvolle Einsatz von KI zur Verbesserung von Bildung, Gesundheitsversorgung und Frauenförderung hervorgehoben. Unternehmen werden aufgefordert, den Dialog mit Arbeitnehmern bei der Einführung digitaler Technologien zu suchen, um deren Akzeptanz zu stärken. Die Erklärung ruft zur Fortsetzung der internationalen Zusammenarbeit auf, um die Zukunft der KI nachhaltig und gerecht zu gestalten. - G20 Gipfel in Neu-Delhi (2023)
In der Abschlusserklärung des Gipfels der Staats- und Regierungschefs der G20 in Neu-Delhi im September 2023 werden folgende Maßnahmen zur Förderung der künstlichen Intelligenz aufgeführt:
- Bestätigung des Engagements für die G20-KI-Prinzipien von 2019 und das Bestreben, Ansätze zum Einsatz von KI zur Unterstützung von Lösungen in der digitalen Wirtschaft auszutauschen;
- Verfolgung eines innovationsfreundlichen regulatorischen Ansatzes, der die Vorteile maximiert und die mit der Nutzung von KI verbundenen Risiken berücksichtigt;
- Förderung des Einsatzes von verantwortungsvoller KI zur Erreichung der nachhaltigen Entwicklungsziele (SDGs).
- Südafrikanische G20-Präsidentschaft 2025
Im Rahmen der südafrikanischen G20-Präsidentschaft im Jahr 2025 wurde die Task Force "Artificial Intelligence, Data Governance and Innovation for Sustainable Development" ins Leben gerufen.
Diese Task Force bietet der G20 die Gelegenheit, die zukünftige Entwicklung und Nutzung Künstlicher Intelligenz im Sinne des globalen öffentlichen Interesses mitzugestalten. Ziel ist es, zur Weiterentwicklung sicherer, ethischer, vertrauenswürdiger und verlässlicher KI-Ökosysteme beizutragen.
Zu den zentralen Ergebnissen zählen unter anderem die Initiative "AI for Africa" sowie die Ausarbeitung einer Technology Policy Assistance Facility.
- US-amerikanische G20-Präsidentschaft 2026
Mit der Übernahme der G20-Präsidentschaft durch die Vereinigten Staaten im Dezember 2025 verlagerte sich der Schwerpunkt der G20 im Jahr 2026 wieder stärker auf ihre wirtschafts- und finanzpolitische Kernagenda. Zu den Prioritäten der US-Präsidentschaft zählen die Förderung von Wirtschaftswachstum und Innovation, der Abbau regulatorischer Belastungen, sichere und bezahlbare Energie sowie die Weiterentwicklung neuer Technologien.
Künstliche Intelligenz bleibt dabei ein wichtiger Bestandteil der G20-Agenda. Im Rahmen der US-amerikanischen G20-Präsidentschaft 2026 steht sie insbesondere im Kontext von Innovation, Wirtschaftswachstum und technologischer Wettbewerbsfähigkeit. Die Vereinigten Staaten verfolgen einen innovationsfreundlichen Politikansatz, der die Entwicklung und Einführung von KI sowie anderer Zukunftstechnologien beschleunigen und regulatorische Belastungen möglichst gering halten soll. Gleichzeitig werden der Schutz der Sicherheit, der Privatsphäre und des geistigen Eigentums sowie der Ausbau von Lieferketten, Fertigungskapazitäten und qualifizierten Fachkräften als wesentliche Voraussetzungen für eine erfolgreiche Nutzung von KI hervorgehoben. Ziel ist es, die Potenziale Künstlicher Intelligenz und anderer Schlüsseltechnologien zur Förderung von Wirtschaftswachstum, Wettbewerbsfähigkeit und gesellschaftlichem Wohlstand besser zu nutzen.
G7
- Hiroshima Process
Der Hiroshima Process wurde im Mai 2023 auf Anregung der G7-Staats- und Regierungschefs beim Gipfel in Hiroshima ins Leben gerufen (Leaders’ Statement), mit dem Ziel, die internationale Diskussion über die Chancen und Risiken der Künstlichen Intelligenz zu fördern und voranzutreiben.
Aus diesem Prozess gingen die G7-KI-Prinzipien und der Verhaltenskodex (AIP&CoC) hervor (Guiding Principles for All AI Actors | Guiding Principles for Organizations Developing Advanced AI Systems | Code of Conduct for Organizations Developing Advanced AI Systems). Ein wesentlicher Aspekt der AIP&CoC ist das starke Engagement der G7 für bestimmte Schlüsselbereiche der KI-Governance. Dies umfasst einen risikobasierten Ansatz, der während des gesamten Lebenszyklus der KI angewendet wird, beginnend mit präventiven Risikobewertungen und -Minderungsmaßnahmen vor der Implementierung. Weiterhin wird die Notwendigkeit einer kontinuierlichen Überwachung, Berichterstattung und Minderung von Missbrauch und Vorfällen betont. Als Vorsichtsmaßnahme heben die AIP&CoC die Bedeutung hervor, dass KI-Entwickler und -Anwender über Richtlinien und Verfahren für das Risikomanagement sowie über starke Sicherheitskontrollen verfügen.
Neben der Auseinandersetzung mit Bedenken bezüglich der Risiken fortschrittlicher KI-Systeme definieren die G7 AIP&CoC auch Prioritäten für die KI-Forschung und -Entwicklung. Dazu gehören die Authentifizierung von Inhalten, Maßnahmen zum Schutz der Datenrechte, die Minderung von gesellschaftlichen, Sicherheits- und anderen Risiken, der Einsatz von KI zur Bewältigung globaler Herausforderungen wie dem Klimawandel und die Entwicklung technischer Standards.
Die G7-Staaten haben sich dazu verpflichtet, die Prinzipien und den Kodex als Teil eines umfassenden politischen Rahmens weiterzuentwickeln, mit Beiträgen von anderen Nationen, der OECD, der Global Partnership on AI (GPAI) und einer breiten Palette von Akteuren aus Wissenschaft, Wirtschaft und Zivilgesellschaft.
- Italiens G7 Präsidentschaft in 2024
Im Rahmen der G7-Initiativen, die über das Jahr 2024 fortgeführt werden, legt die italienische G7-Präsidentschaft einen besonderen Schwerpunkt auf die ethische und gesellschaftlich verträgliche Entwicklung der künstlichen Intelligenz.
Künstliche Intelligenz war eines der zentralen Themen des G7-Gipfeltreffens der Staats- und Regierungschefs, das vom 13. bis 15. Juni 2024 in Apulien stattgefunden hat. Das Thema erhielt zusätzliche Aufmerksamkeit durch die Teilnahme von Papst Franziskus, der als erster Papst bei einem solchen Forum anwesend war. In seiner Ansprache betonte er, dass die Entscheidungsfindung stets in menschlichen Händen bleiben muss. Die Abschlusserklärung (Leaders’ Communiqué) unterstreicht die Bedeutung internationaler Kooperationen und die Harmonisierung der Gesetzgebung, um die Sicherheit, Transparenz und Verantwortlichkeit von KI-Technologien und -Anwendungen zu erhöhen. Risikobasierte Ansätze zur Regulierung von KI werden dabei bevorzugt, um Innovation sowie starkes, inklusives und nachhaltiges Wachstum zu fördern. Zusätzlich haben die Staats- und Regierungschefs beschlossen, einen Aktionsplan zur Nutzung von KI in der Arbeitswelt zu initiieren und eine Brand zu entwickeln, die die Implementierung des internationalen G7-KI-Verhaltenskodex unterstützt. Die entscheidende Rolle robuster und zuverlässiger Lieferketten für Halbleiter für eine sichere und vertrauenswürdige KI wurde ebenfalls auf dem Gipfel hervorgehoben. Um Herausforderungen in diesem Bereich zu adressieren, begrüßen die Staats- und Regierungschefs die Einrichtung einer Semiconductors G7 Point of Contact Group.
- Kanadische G7-Präsidentschaft 2025
Im Rahmen des G7-Gipfeltreffens der Staats- und Regierungschefs in Kanada wurde die G7 Leaders’ Statement on AI for Prosperity verabschiedet.
Die Erklärung betont den Einsatz von KI im öffentlichen Sektor zur Verbesserung staatlicher Dienstleistungen, die Unterstützung kleiner und mittlerer Unternehmen bei der Einführung von KI sowie die Förderung fairer, inklusiver Arbeitsmärkte. Gleichzeitig wird der verantwortungsvolle Umgang mit den energiebezogenen Herausforderungen von KI hervorgehoben. Der steigende Strombedarf durch KI-Anwendungen, insbesondere durch Rechenzentren und große Sprachmodelle, soll durch Innovationen in Energieeffizienz und nachhaltige Infrastruktur bewältigt werden. Auch die Zusammenarbeit mit Schwellen- und Entwicklungsländern zur Stärkung lokaler Innovationskapazitäten ist ein zentrales Anliegen. Initiativen wie die G7 GovAI Grand Challenge, der G7 AI Adoption Roadmap und das G7 AI Network (GAIN) sollen diese Ziele konkret unterstützen.
- Französische G7-Präsidentschaft 2026
Künstliche Intelligenz blieb auch im Rahmen der französischen G7-Präsidentschaft 2026 ein wesentliches Thema. Die G7-Digitalminister bekräftigten ihre Unterstützung für den Hiroshima AI Process und dessen Berichtsrahmen als zentrale internationale Plattform zur Förderung einer sicheren, verantwortungsvollen und vertrauenswürdigen Künstlichen Intelligenz. Zugleich wurde eine stärkere internationale Beteiligung am Hiroshima AI Process begrüßt. Mittlerweile beteiligen sich 56 Unternehmen und Organisationen an dessen Reporting Framework; zudem sollen über die „Hiroshima AI Process Friends Group“ und die „Partners' Community“ weitere Staaten, insbesondere Entwicklungs- und Schwellenländer, eingebunden werden.
Inhaltlich legte die französische Präsidentschaft vier Schwerpunkte fest: die Förderung sicherer und vertrauenswürdiger KI, die Beschleunigung der KI-Einführung insbesondere in kleinen und mittleren Unternehmen, die Stärkung der Resilienz und Ressourceneffizienz des digitalen Sektors sowie den besseren Schutz von Minderjährigen im digitalen Raum.
Im Rahmen der französischen G7-Präsidentschaft wurde zudem das von der OECD entwickelte G7 SME AI Readiness Tool vorgestellt. Das Tool soll kleine und mittlere Unternehmen (KMU) dabei unterstützen, ihre Bereitschaft für die Einführung und den Einsatz von Künstlicher Intelligenz einzuschätzen. Anhand eines kurzen Fragebogens wird ein KI-Reifeprofil auf Basis der OECD-Taxonomie erstellt und auf geeignete nationale Unterstützungs- und Förderangebote hingewiesen. Das Tool baut auf dem unter der kanadischen G7-Präsidentschaft entwickelten SME AI Adoption Blueprint auf und befindet sich derzeit in einer Pilotphase.
Nennenswert ist zudem das von der französischen G7-Präsidentschaft gemeinsam mit INRIA veröffentlichte Policy Paper "Agentic AI: Deployment, Adoption and Impacts". Es analysiert den aktuellen Entwicklungsstand agentischer KI-Systeme und formuliert Empfehlungen für deren sichere, vertrauenswürdige und innovationsfördernde Entwicklung und Nutzung.
AI Seoul Summit
- AI Seoul Summit
Eine weitere wichtige internationale Initiative im Bereich der Künstlichen Intelligenz war der AI Seoul Summit, der am 21. und 22. Mai 2024 von der südkoreanischen Regierung in Zusammenarbeit mit dem Vereinigten Königreich veranstaltet wurde. Dieser Gipfel knüpfte an den AI Safety Summit an, der im November 2023 in Bletchley Park stattgefunden hatte.
Der AI Seoul Summit endete mit dem "Ministerial Statement for Advancing AI Safety, Innovation and Inclusivity". In diesem haben sich 27 Länder darauf geeinigt, gemeinsame Risikogrenzen für die Entwicklung und Nutzung von KI zu definieren und die wissenschaftliche Zusammenarbeit im Bereich KI-Sicherheit zu intensivieren. Dies soll unter anderem durch Kooperationen für die Entwicklung und Durchführung von Sicherheitstests sowie die Etablierung von Bewertungsrichtlinien erfolgen. Unter den Unterzeichnern befanden sich Australien, Chile, Deutschland, Frankreich, Indien, Indonesien, Israel, Italien, Japan, Kanada, Kenia, Mexiko, die Niederlande, Nigeria, Neuseeland, die Philippinen, Südkorea, Ruanda, Saudi-Arabien, Singapur, Spanien, die Schweiz, die Türkei, die Ukraine, die Vereinigten Arabischen Emirate, das Vereinigte Königreich und die USA sowie die Europäische Union. China nahm am Gipfel teil, unterzeichnete die Erklärung jedoch nicht.
Darüber hinaus unterzeichneten zehn Länder und die EU die "Seoul Declaration for Safe, Innovative, and Inclusive AI", um das "Ministerial Statement" zu unterstützen. Diese Erklärung zielt darauf ab, ein internationales Netzwerk öffentlich geförderter KI-Sicherheitsinstitute zu etablieren, um harmonisierte Vorgehensweisen in den Bereichen Regulierung, Testverfahren und Forschung zu fördern und die Schaffung eines internationalen Rahmens für sichere KI-Anwendungen zu beschleunigen. Unter den Unterzeichnern waren Australien, Kanada, die Europäische Union, Frankreich, Deutschland, Italien, Japan, Südkorea, Singapur, die USA und das Vereinigte Königreich.
Neben politischen Akteuren nahmen auch führende Technologieunternehmen am AI Seoul Summit teil. Sechzehn weltweit renommierte Unternehmen, darunter Amazon, Google, Meta, Microsoft, Samsung und OpenAI, unterzeichneten die "Frontier AI Safety Commitments". Diese Verpflichtungen umfassen die Zusage, keine KI-Modelle zu entwickeln oder einzusetzen, die gravierende Risiken bergen, sowie die Einrichtung verantwortungsbewusster Strukturen und Transparenz bezüglich ihrer KI-Sicherheitskonzepte.
Als unmittelbare Folge des AI Seoul Summit wurde im November 2024 das International Network of AI Safety Institutes gegründet. Das Netzwerk bringt nationale KI-Sicherheitsinstitute und vergleichbare staatliche Einrichtungen zusammen, um die internationale Zusammenarbeit bei Forschung, Evaluierung und Sicherheitstests fortgeschrittener KI-Systeme zu stärken sowie gemeinsame Ansätze für die KI-Sicherheitsforschung zu entwickeln.
Darüber hinaus bildeten die beim AI Seoul Summit vereinbarten Arbeiten zur KI-Sicherheitsforschung die Grundlage für den International AI Safety Report, der eine gemeinsame wissenschaftliche Grundlage für die Bewertung fortgeschrittener KI-Risiken schaffen soll.