Der AI Act enthält in Artikel 50 vier eigenständige Transparenzpflichten, die jeweils für unterschiedliche KI-Systeme oder deren Ausgaben gelten. Sie gelten im Wesentlichen ab 2.8.2026 und betreffen:
Die verschiedenen Transparenzpflichten können kumulativ auf dasselbe KI-System Anwendung finden. Darüber hinaus verlangt Artikel 50 Absatz 5 AI Act, dass sämtliche Informationen klar und eindeutig sowie spätestens zum Zeitpunkt der ersten Interaktion bzw. Exposition bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen.
Zur Unterstützung der Einhaltung der Transparenzpflichten nach Artikel 50 AI Act hat die Europäische Kommission Leitlinien verabschiedet. Diese präzisieren den Umfang der einzelnen Transparenzpflichten und erläutern deren praktische Anwendung. Parallel hierzu hat die Kommission einen freiwilligen Verhaltenskodex für die Kennzeichnung und Offenlegung KI-generierter Inhalte ausgearbeitet. Dieser soll Anbieter und Betreiber generativer KI-Systeme bei der Erfüllung der Transparenzpflichten nach Artikel 50 Absätze 2, 4 und 5 AI Act unterstützen. Sowohl die Europäische Kommission als auch das AI Board haben bestätigt, dass der Kodex ein geeignetes Instrument zum Nachweis der Einhaltung der verbindlichen Transparenzpflichten nach Artikel 50 AI Act darstellt. Das Einhalten der Vorgaben des Verhaltenskodex erleichtert damit eine Konformität mit dem AI Act.
Die Transparenzpflichten gelten grundsätzlich nicht für Betreiber, die KI-Systeme ausschließlich zu persönlichen und nichtberuflichen Zwecken nutzen. Eine berufliche Nutzung liegt insbesondere vor, wenn die Tätigkeit regelmäßig wirtschaftlichen Zwecken dient oder im Rahmen einer beruflichen, gewerblichen oder selbstständigen Tätigkeit erfolgt. Die Ausnahme gilt ausschließlich für die Transparenzpflichten der Betreiber; die Transparenzpflichten der Anbieter bleiben unberührt. Ferner findet der AI Act keine Anwendung auf KI-Systeme oder deren Ausgaben, die ausschließlich der wissenschaftlichen Forschung und Entwicklung dienen oder sich noch vor dem Inverkehrbringen in der Forschungs- oder Testphase befinden. Darüber hinaus sehen die einzelnen Transparenzpflichten Ausnahmen für KI-Systeme vor, deren Einsatz aufgrund einer gesetzlichen Grundlage der Verhütung, Aufdeckung, Ermittlung oder Verfolgung von Straftaten dient.
Die Transparenzpflicht gemäß Art. 50 Abs. 1 AI Act gilt für KI-Systeme, die
Eine Interaktion kann sowohl in einem einmaligen Austausch (Single-Turn) als auch über einen längeren Dialog (Multi-Turn) erfolgen und muss nicht zwingend von der natürlichen Person initiiert werden.
Erfasst werden beispielsweise Chatbots, Sprachassistenten, KI-Agenten, Avatare oder soziale Bots. Nicht erfasst sind hingegen reine Backend-Systeme, Empfehlungssysteme ohne direkte Nutzerinteraktion oder industrielle Anwendungen ohne Kontakt zu natürlichen Personen.
Die Leitlinien stellen klar, dass KI-Agenten unter Art. 50 Abs. 1 AI Act fallen können, sofern sie unmittelbar mit natürlichen Personen interagieren (z.B. bei Buchungen, Vertragsabschlüssen oder Korrespondenz). Sie sollen dabei sowohl ihre künstliche Natur als auch die Person offenlegen, in deren Auftrag sie handeln.
Anbieter müssen ihre Systeme so konzipieren und entwickeln, dass Nutzer spätestens bei der ersten Interaktion darüber informiert werden, dass sie mit einem KI-System kommunizieren. Die Information muss während des gesamten Lebenszyklus des Systems sichergestellt werden, auch nach dessen Inverkehrbringen. Dabei sind die Bedürfnisse besonders schutzbedürftiger Personengruppen – insbesondere von Kindern, älteren Menschen und Menschen mit Behinderungen – zu berücksichtigen; die Information muss daher leicht verständlich ausgestaltet sein und den geltenden Barrierefreiheitsanforderungen entsprechen.
Der AI Act schreibt keine bestimmte Offenlegungsmethode vor. Zulässig sind insbesondere schriftliche Hinweise, ausdrückliche mündliche Hinweise – etwa in sprachbasierten oder telefonischen Interaktionen –, grafische Kennzeichnungen oder multimodale Kombinationen dieser Elemente. Dagegen genügen Hinweise ausschließlich in Allgemeinen Geschäftsbedingungen, Dokumentation oder Metadaten, allgemeine Aussagen wie "Diese Website nutzt KI" oder rein technische Beschreibungen des Systems (z. B. Hinweise auf Large Language Models) nicht, da sie die betroffenen Personen nicht unmittelbar über die künstliche Natur der Interaktion informieren.
Bei längeren oder sensiblen Interaktionen – etwa mit sogenannten AI Companions oder Systemen zur emotionalen Unterstützung – kann eine einmalige Offenlegung unzureichend sein. In solchen Fällen empfehlen die Kommissionsleitlinien wiederkehrende oder situationsabhängige Hinweise.
Die Informationspflicht entfällt, wenn für eine vernünftigerweise gut informierte, aufmerksame und verständige Person der jeweiligen Zielgruppe offensichtlich ist, dass sie mit einem KI-System interagiert. Dieser Maßstab orientiert sich an dem aus dem europäischen Verbraucherschutzrecht bekannten Leitbild des "durchschnittlichen Verbrauchers" (average consumer), ist jedoch unter Berücksichtigung der Besonderheiten des jeweiligen Nutzungskontexts und der Zielsetzung des Art. 50 Abs. 1 KI-VO anzuwenden. Die Ausnahme ist eng auszulegen und anhand der konkreten Umstände des Einzelfalls zu beurteilen. Dabei sind insbesondere die Zusammensetzung der Zielgruppe, deren digitales und KI-bezogenes Kompetenzniveau, die Merkmale des KI-Systems, der Nutzungskontext sowie die Wahrscheinlichkeit zu berücksichtigen, dass auch Kinder, ältere Menschen oder Menschen mit Behinderungen mit dem KI-System interagieren.
Die Transparenzpflicht gemäß Art. 50 Abs. 2 AI Act gilt für KI-Systeme, die
Erfasst werden insbesondere KI-Systeme, die synthetische oder manipulierte Audio-, Bild-, Video- oder Textinhalte erzeugen, einschließlich dreidimensionaler (3D-)Inhalte sowie Anwendungen der virtuellen, erweiterten oder gemischten Realität. Ebenfalls in den Anwendungsbereich fallen digitale Zwillinge (Digital Twins), die virtuelle Abbilder von Personen, physischen Objekten oder Systemen erstellen und dabei verschiedene Datentypen integrieren.
Nicht in den Anwendungsbereich des Art. 50 Abs. 2 AI Act fallen insbesondere kurze Ausgaben ohne eigenständigen Inhaltscharakter (z. B. einzelne Wörter, Bildunterschriften, Alt-Texte, UI-Labels oder einfache Symbole), Quellcode und sonstige maschinenlesbare Softwareartefakte (z. B. APIs, SDKs, SQL-, JSON- oder YAML-Dateien), ausschließlich maschinell verarbeitete Maschine-zu-Maschine-Kommunikation sowie KI-generierte Zwischenprodukte in geschlossenen Produktions- oder Entwicklungsprozessen. In diesen Fällen unterliegt grundsätzlich nur das veröffentlichte Endergebnis den Kennzeichnungs- und Erkennungspflichten.
Anbieter müssen die von ihren KI-Systemen erzeugten oder manipulierten Inhalte durch eine technische Lösung kennzeichnen und deren Erkennbarkeit sicherstellen. Die Transparenzpflicht nach Art. 50 Abs. 2 AI Act besteht aus zwei eigenständigen, aber untrennbar miteinander verbundenen Komponenten:
Die Erfüllung lediglich einer dieser beiden Komponenten genügt nicht; vielmehr müssen Kennzeichnung und Erkennbarkeit gemeinsam gewährleistet werden, um den Anforderungen des Art. 50 Abs. 2 AI Act zu entsprechen. Für jede eingesetzte Kennzeichnungslösung sollten daher geeignete Erkennungsmittel zur Verfügung stehen. Um eine möglichst hohe Interoperabilität zu gewährleisten, sollen Anbieter nach Möglichkeit öffentlich verfügbare Industriestandards und interoperable Erkennungslösungen verwenden. Solange entsprechende harmonisierte Standards noch nicht verfügbar sind, können übergangsweise auch eigene oder gemeinsam mit Dritten entwickelte Erkennungslösungen eingesetzt werden, sofern diese mit den Erkennungslösungen anderer Anbieter interoperabel sind. Langfristiges Ziel ist eine standardisierte, anbieterunabhängige, interoperable, sichere, datenschutzfreundliche und möglichst lokal ausführbare Erkennungslösung.
Die eingesetzten technischen Lösungen müssen vier Qualitätsanforderungen erfüllen:
Maßgeblich sind die technische Machbarkeit, der allgemein anerkannte Stand der Technik, die Besonderheiten der jeweiligen Inhaltsmodalität sowie die Verhältnismäßigkeit der Implementierungskosten.
Der Verhaltenskodex für die Kennzeichnung und Offenlegung KI-generierter Inhalte enthält Beispiele geeigneter technischer Lösungen und kann Anbietern bei der Umsetzung der Transparenzpflichten als Orientierung dienen.
Art. 50 Abs. 2 AI Act sowie die Kommissionsleitlinien sehen eng begrenzte Ausnahmen von der Kennzeichnungs- und Erkennungspflicht vor. Diese betreffen insbesondere:
Als Emotionserkennungssystem gilt ein KI-System, das dazu bestimmt ist, Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten. Da Emotionserkennungssysteme grundsätzlich als Hochrisiko-KI-Systeme eingestuft werden – sofern sie nicht nach Artikel 5 verboten sind –, gilt die Transparenzpflicht nach Artikel 50 Absatz 3 AI Act ergänzend zu den für Hochrisiko-KI-Systeme bestehenden Anforderungen.
Als biometrisches Kategorisierungssystem gilt ein KI-System, das dazu bestimmt ist, natürliche Personen anhand ihrer biometrischen Daten bestimmten Kategorien zuzuordnen. Ausgenommen sind Systeme, bei denen die Kategorisierung lediglich eine Nebenfunktion eines anderen kommerziellen Dienstes darstellt und aus objektiven technischen Gründen unbedingt erforderlich ist. Die Transparenzpflicht nach Artikel 50 Absatz 3 AI Act erfasst biometrische Kategorisierungssysteme unabhängig davon, ob diese als Hochrisiko-KI-Systeme einzustufen sind.
Betreiber von Emotionserkennungs- und biometrischen Kategorisierungssystemen sind verpflichtet, betroffene natürliche Personen darüber zu informieren, dass sie einem solchen KI-System ausgesetzt sind. Die Informationspflicht betrifft ausschließlich den Einsatz des Systems; eine Begründung für dessen Verwendung ist nach dem AI Act nicht erforderlich.
Die Information ist allen betroffenen natürlichen Personen, einschließlich Kindern, spätestens zum Zeitpunkt der ersten Exposition gegenüber dem KI-System in klarer, leicht wahrnehmbarer und barrierefreier Form bereitzustellen. Der AI Act schreibt hierfür keine bestimmte Form vor. Je nach Einsatzkontext kann die Information beispielsweise schriftlich, mündlich, durch standardisierte Symbole oder durch eine Kombination dieser Mittel erfolgen. Maßgeblich sind insbesondere der Einsatzort, die betroffene Zielgruppe sowie bestehende Kommunikationsmöglichkeiten mit den betroffenen Personen.
Die Transparenzpflicht gilt für KI-Systeme, die
Ein Deep Fake im Sinne des Artikels 3 Nummer 60 AI Act liegt vor, wenn ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Eine vollständige Übereinstimmung mit dem dargestellten Objekt ist nicht erforderlich. Nicht erfasst sind Inhalte, die offensichtlich unrealistische oder rein fiktive Szenarien darstellen und deshalb keine Verwechslungsgefahr mit der Realität begründen.
Den Leitlinien der Europäischen Kommission folgend sind auch Abbildungen, die existieren könnten, als Deep Fake einzustufen. Beispielhaft wird eine fotorealistische Darstellung von Personen als Deep Fake einzustufen sein, selbst, wenn die abgebildeten Personen keinem realen Vorbild entsprechen.
Ob ein Inhalt als Deep Fake einzustufen ist, hängt zudem davon ab, ob er geeignet ist, bei den angesprochenen Personen einen falschen Eindruck über seine Authentizität oder Wahrhaftigkeit hervorzurufen. Maßgeblich ist dabei nicht die Täuschungsabsicht des Betreibers, sondern die Wahrnehmung des potentiellen Publikums. Dabei sind insbesondere die Zusammensetzung der Zielgruppe sowie deren digitales und KI-bezogenes Kompetenzniveau zu berücksichtigen. Geringfügige technische Bearbeitungen bestehender Inhalte, etwa Farbkorrekturen, Rauschunterdrückung oder ähnliche Optimierungen, begründen regelmäßig keinen Deep Fake, sofern sie die Wahrnehmung der Authentizität des Inhalts nicht wesentlich beeinflussen.
Betreiber von KI-Systemen, die Deep-Fake-Inhalte erzeugen oder manipulieren, sind verpflichtet, offenzulegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden. Die Offenlegung muss spätestens zum Zeitpunkt der ersten Wahrnehmung des Deepfakes erfolgen. Sie muss klar, eindeutig und für die betroffenen Personen unmittelbar wahrnehmbar sein. Sichtbare, bei Video- und Bildinhalten oder hörbare, bei reinen Audioinhalten, Kennzeichnungen genügen grundsätzlich den Anforderungen des AI Act.
Im Zusammenhang mit dem Verhaltenskodex für die Kennzeichnung und Offenlegung KI-generierter Inhalte hat die Europäische Kommission ein Set von Symbolen (Icons) ausgearbeitet, das Betreiber generativer KI-Systeme lizenzfrei zur Kennzeichnung KI-generierter Inhalte verwenden können.
Werden die Symbole verwendet, sollten diese gut sichtbar unmittelbar in KI-Inhalte platziert werden. Um Barrierefreiheit zu gewährleisten, sollte das Symbol auch für assistive Technologien zugänglich sein, etwa durch die Verwendung eines "alt"-Texts. Weitere Informationen zur Verwendung dieser Symbole sind direkt auf der Website der Europäischen Kommission abrufbar.
Bei KI generierten oder manipulierten Audioinhalten ist zu Beginn ein in einfacher und natürlicher Sprache gesprochener Hinweis auf die Nutzung von KI notwendig. Bei längeren Video- oder Audioinhalten ist zusätzlich darauf zu achten, dass in regelmäßigen Abständen, beispielsweise nach Werbepausen, erneut auf die KI-Nutzung hingewiesen wird.
Für Deep Fakes, die Bestandteil offensichtlich künstlerischer, kreativer, satirischer, fiktionaler oder vergleichbarer Werke oder Programme sind, sieht der AI Act eine erleichterte Transparenzpflicht vor. Auch in diesen Fällen muss die künstliche Herkunft oder Manipulation des Inhalts offengelegt werden; die Offenlegung ist jedoch in einer Weise vorzunehmen, die die normale Wahrnehmung oder den Genuss des Werkes nicht beeinträchtigt. Ob diese Ausnahme greift, ist anhand der Art des Werkes, des Präsentationskontexts sowie der berechtigten Erwartungen des Publikums im Einzelfall zu beurteilen. Inhalte, die überwiegend informativen oder kommerziellen Zwecken dienen, fallen regelmäßig nicht unter diese Privilegierung.
Von der Transparenzpflicht ausgenommen sind schließlich Deep Fakes, deren Einsatz aufgrund einer gesetzlichen Grundlage der Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten dient.
Unabhängig der Transparenzpflicht für Betreiber gilt bei allen betroffenen Systemen die Verpflichtung zur Kennzeichnung von synthetischen Inhalten. Jedes Deepfake ist ein synthetisches Bild/Video/Audio, aber nicht jedes synthetische Bild/Video/Audio ist auch ein Deepfake. Selbst bei KI-generierten Inhalten, die nicht als Deep Fake gekennzeichnet werden müssen, ist deshalb durch den Anbieter des KI-Systems eine maschinenlesbare Kennzeichnung zu hinterlegen.
Die Transparenzpflicht gilt für KI-Systeme, die
Die Transparenzpflicht entfällt, wenn
Als veröffentlicht gelten Texte, die einer unbestimmten und potenziell großen Zahl von Personen zugänglich sind. Nicht erfasst sind hingegen Texte, die ausschließlich einem begrenzten Personenkreis zugänglich sind, etwa private Korrespondenz oder unternehmensinterne Dokumente.
Die Informationspflicht setzt ferner voraus, dass die Veröffentlichung der Information der Öffentlichkeit dient. Erfasst sind daher Texte, die Wissen, Tatsachen oder Meinungen zu Angelegenheiten von öffentlichem Interesse vermitteln. Darunter fallen grundsätzlich Themen, die für die Gesellschaft insgesamt auf lokaler, nationaler, unionsweiter oder internationaler Ebene relevant sind und ein öffentliches Interesse oder eine öffentliche Debatte begründen können. Hierzu zählen insbesondere Themen im Zusammenhang mit Politik und demokratischen Prozessen, öffentlicher Verwaltung und öffentlichen Dienstleistungen, Justiz und Strafverfolgung, dem Schutz der Grundrechte, der öffentlichen Sicherheit, der öffentlichen Gesundheit, dem Umweltschutz, der Verbrauchersicherheit sowie wirtschaftlichen, finanziellen, politischen, wissenschaftlichen oder kulturellen Entwicklungen, die Gegenstand einer öffentlichen Debatte sein können. Ob eine Angelegenheit von öffentlichem Interesse vorliegt, ist anhand der Umstände des Einzelfalls zu beurteilen; was als Angelegenheit von öffentlichem Interesse gilt, kann sich zudem im Zeitverlauf und je nach Kontext verändern. Dagegen fallen Inhalte, die ausschließlich Unterhaltungszwecken dienen, grundsätzlich nicht in den Anwendungsbereich der Vorschrift.
Betreiber (d.h. die Verwender) dieser KI-Systeme sind verpflichtet, offenzulegen, dass der veröffentlichte Text künstlich erzeugt oder manipuliert wurde. Die Kennzeichnung muss klar, eindeutig und für natürliche Personen ohne besondere technische Hilfsmittel wahrnehmbar sein. Hierfür kommen insbesondere gut sichtbare Hinweise oder entsprechende Disclaimer in Betracht.
Von der Transparenzpflicht besteht eine Ausnahme, wenn zwei Voraussetzungen kumulativ erfüllt sind.