Themenbild Services der RTR

Offenlegungs-, Kennzeichnungs- und Informationspflichten

Allgemeines

Der AI Act enthält in Artikel 50 vier eigenständige Transparenzpflichten, die jeweils für unterschiedliche KI-Systeme oder deren Ausgaben gelten. Sie gelten im Wesentlichen ab 2.8.2026 und betreffen:

  • KI-Systeme, die unmittelbar mit natürlichen Personen interagieren,
  • KI-Systeme, die synthetische Inhalte erzeugen oder manipulieren,
  • Emotionserkennungs- und biometrische Kategorisierungssysteme sowie
  • Deep Fakes und KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden.

Die verschiedenen Transparenzpflichten können kumulativ auf dasselbe KI-System Anwendung finden. Darüber hinaus verlangt Artikel 50 Absatz 5 AI Act, dass sämtliche Informationen klar und eindeutig sowie spätestens zum Zeitpunkt der ersten Interaktion bzw. Exposition bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen.

Die Infografik fasst den Fließtext zusammen und beschreibt, wie KI-Systeme mit begrenztem Risiko Informations-, Offenlegungs- und Kennzeichnungspflichten auslösen.
KI-Systeme mit begrenztem Risiko lösen Informations-, Offenlegungs- und Kennzeichnungspflichten aus. © RTR (CC BY 4.0)

Zur Unterstützung der Einhaltung der Transparenzpflichten nach Artikel 50 AI Act hat die Europäische Kommission Leitlinien verabschiedet. Diese präzisieren den Umfang der einzelnen Transparenzpflichten und erläutern deren praktische Anwendung. Parallel hierzu hat die Kommission einen freiwilligen Verhaltenskodex für die Kennzeichnung und Offenlegung KI-generierter Inhalte ausgearbeitet. Dieser soll Anbieter und Betreiber generativer KI-Systeme bei der Erfüllung der Transparenzpflichten nach Artikel 50 Absätze 2, 4 und 5 AI Act unterstützen. Sowohl die Europäische Kommission als auch das AI Board haben bestätigt, dass der Kodex ein geeignetes Instrument zum Nachweis der Einhaltung der verbindlichen Transparenzpflichten nach Artikel 50 AI Act darstellt. Das Einhalten der Vorgaben des Verhaltenskodex erleichtert damit eine Konformität mit dem AI Act.

Ausnahme für Privatnutzung

Die Transparenzpflichten gelten grundsätzlich nicht für Betreiber, die KI-Systeme ausschließlich zu persönlichen und nichtberuflichen Zwecken nutzen. Eine berufliche Nutzung liegt insbesondere vor, wenn die Tätigkeit regelmäßig wirtschaftlichen Zwecken dient oder im Rahmen einer beruflichen, gewerblichen oder selbstständigen Tätigkeit erfolgt. Die Ausnahme gilt ausschließlich für die Transparenzpflichten der Betreiber; die Transparenzpflichten der Anbieter bleiben unberührt. Ferner findet der AI Act keine Anwendung auf KI-Systeme oder deren Ausgaben, die ausschließlich der wissenschaftlichen Forschung und Entwicklung dienen oder sich noch vor dem Inverkehrbringen in der Forschungs- oder Testphase befinden. Darüber hinaus sehen die einzelnen Transparenzpflichten Ausnahmen für KI-Systeme vor, deren Einsatz aufgrund einer gesetzlichen Grundlage der Verhütung, Aufdeckung, Ermittlung oder Verfolgung von Straftaten dient.

KI-Systeme zur direkten Interaktion

Die Transparenzpflicht gemäß Art. 50 Abs. 1 AI Act gilt für KI-Systeme, die

  • als KI-System im Sinne des AI Act einzustufen sind,
  • zur Interaktion mit natürlichen Personen bestimmt sind,
  • unmittelbar mit diesen Personen kommunizieren und
  • einen unmittelbaren wechselseitigen Informationsaustausch ermöglichen. 

Eine Interaktion kann sowohl in einem einmaligen Austausch (Single-Turn) als auch über einen längeren Dialog (Multi-Turn) erfolgen und muss nicht zwingend von der natürlichen Person initiiert werden.

Erfasst werden beispielsweise Chatbots, Sprachassistenten, KI-Agenten, Avatare oder soziale Bots. Nicht erfasst sind hingegen reine Backend-Systeme, Empfehlungssysteme ohne direkte Nutzerinteraktion oder industrielle Anwendungen ohne Kontakt zu natürlichen Personen.

Die Leitlinien stellen klar, dass KI-Agenten unter Art. 50 Abs. 1 AI Act fallen können, sofern sie unmittelbar mit natürlichen Personen interagieren (z.B. bei Buchungen, Vertragsabschlüssen oder Korrespondenz). Sie sollen dabei sowohl ihre künstliche Natur als auch die Person offenlegen, in deren Auftrag sie handeln.

Anbieter müssen ihre Systeme so konzipieren und entwickeln, dass Nutzer spätestens bei der ersten Interaktion darüber informiert werden, dass sie mit einem KI-System kommunizieren. Die Information muss während des gesamten Lebenszyklus des Systems sichergestellt werden, auch nach dessen Inverkehrbringen. Dabei sind die Bedürfnisse besonders schutzbedürftiger Personengruppen – insbesondere von Kindern, älteren Menschen und Menschen mit Behinderungen – zu berücksichtigen; die Information muss daher leicht verständlich ausgestaltet sein und den geltenden Barrierefreiheitsanforderungen entsprechen.

Der AI Act schreibt keine bestimmte Offenlegungsmethode vor. Zulässig sind insbesondere schriftliche Hinweise, ausdrückliche mündliche Hinweise – etwa in sprachbasierten oder telefonischen Interaktionen –, grafische Kennzeichnungen oder multimodale Kombinationen dieser Elemente. Dagegen genügen Hinweise ausschließlich in Allgemeinen Geschäftsbedingungen, Dokumentation oder Metadaten, allgemeine Aussagen wie "Diese Website nutzt KI" oder rein technische Beschreibungen des Systems (z. B. Hinweise auf Large Language Models) nicht, da sie die betroffenen Personen nicht unmittelbar über die künstliche Natur der Interaktion informieren.

Bei längeren oder sensiblen Interaktionen – etwa mit sogenannten AI Companions oder Systemen zur emotionalen Unterstützung – kann eine einmalige Offenlegung unzureichend sein. In solchen Fällen empfehlen die Kommissionsleitlinien wiederkehrende oder situationsabhängige Hinweise.

Die Informationspflicht entfällt, wenn für eine vernünftigerweise gut informierte, aufmerksame und verständige Person der jeweiligen Zielgruppe offensichtlich ist, dass sie mit einem KI-System interagiert. Dieser Maßstab orientiert sich an dem aus dem europäischen Verbraucherschutzrecht bekannten Leitbild des "durchschnittlichen Verbrauchers" (average consumer), ist jedoch unter Berücksichtigung der Besonderheiten des jeweiligen Nutzungskontexts und der Zielsetzung des Art. 50 Abs. 1 KI-VO anzuwenden. Die Ausnahme ist eng auszulegen und anhand der konkreten Umstände des Einzelfalls zu beurteilen. Dabei sind insbesondere die Zusammensetzung der Zielgruppe, deren digitales und KI-bezogenes Kompetenzniveau, die Merkmale des KI-Systems, der Nutzungskontext sowie die Wahrscheinlichkeit zu berücksichtigen, dass auch Kinder, ältere Menschen oder Menschen mit Behinderungen mit dem KI-System interagieren.

KI-Systeme zur Generierung synthetischer Inhalte

Die Transparenzpflicht gemäß Art. 50 Abs. 2 AI Act gilt für KI-Systeme, die

  • als KI-Systeme im Sinne des AI Act einzustufen sind,
  • synthetische Inhalte erzeugen oder bestehende Inhalte manipulieren können,
  • Audio-, Bild-, Video- oder Textinhalte erzeugen oder manipulieren und
  • nicht unter eine der gesetzlich vorgesehenen Ausnahmen fallen.

Erfasst werden insbesondere KI-Systeme, die synthetische oder manipulierte Audio-, Bild-, Video- oder Textinhalte erzeugen, einschließlich dreidimensionaler (3D-)Inhalte sowie Anwendungen der virtuellen, erweiterten oder gemischten Realität. Ebenfalls in den Anwendungsbereich fallen digitale Zwillinge (Digital Twins), die virtuelle Abbilder von Personen, physischen Objekten oder Systemen erstellen und dabei verschiedene Datentypen integrieren.

Nicht in den Anwendungsbereich des Art. 50 Abs. 2 AI Act fallen insbesondere kurze Ausgaben ohne eigenständigen Inhaltscharakter (z. B. einzelne Wörter, Bildunterschriften, Alt-Texte, UI-Labels oder einfache Symbole), Quellcode und sonstige maschinenlesbare Softwareartefakte (z. B. APIs, SDKs, SQL-, JSON- oder YAML-Dateien), ausschließlich maschinell verarbeitete Maschine-zu-Maschine-Kommunikation sowie KI-generierte Zwischenprodukte in geschlossenen Produktions- oder Entwicklungsprozessen. In diesen Fällen unterliegt grundsätzlich nur das veröffentlichte Endergebnis den Kennzeichnungs- und Erkennungspflichten.

Anbieter müssen die von ihren KI-Systemen erzeugten oder manipulierten Inhalte durch eine technische Lösung kennzeichnen und deren Erkennbarkeit sicherstellen. Die Transparenzpflicht nach Art. 50 Abs. 2 AI Act besteht aus zwei eigenständigen, aber untrennbar miteinander verbundenen Komponenten:

  • Kennzeichnungspflicht (Marking): Die Ausgaben des KI-Systems sind in einem maschinenlesbaren Format zu kennzeichnen. Hierfür können u. a. Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise, Fingerprints oder vergleichbare technische Verfahren eingesetzt werden.
  • Erkennbarkeitspflicht (Detection): Anbieter müssen geeignete Erkennungsmittel bereitstellen, mit denen festgestellt werden kann, ob ein Inhalt künstlich erzeugt oder manipuliert wurde. Die Erkennung erfolgt grundsätzlich durch das Auslesen und die Überprüfung der im Inhalt enthaltenen maschinenlesbaren Kennzeichnungen oder sonstigen technischen Signaturen. Die Erkennungsmittel sollen ein für Menschen verständliches Ergebnis liefern und die zuverlässige Überprüfung der Kennzeichnung ermöglichen.

Die Erfüllung lediglich einer dieser beiden Komponenten genügt nicht; vielmehr müssen Kennzeichnung und Erkennbarkeit gemeinsam gewährleistet werden, um den Anforderungen des Art. 50 Abs. 2 AI Act zu entsprechen. Für jede eingesetzte Kennzeichnungslösung sollten daher geeignete Erkennungsmittel zur Verfügung stehen. Um eine möglichst hohe Interoperabilität zu gewährleisten, sollen Anbieter nach Möglichkeit öffentlich verfügbare Industriestandards und interoperable Erkennungslösungen verwenden. Solange entsprechende harmonisierte Standards noch nicht verfügbar sind, können übergangsweise auch eigene oder gemeinsam mit Dritten entwickelte Erkennungslösungen eingesetzt werden, sofern diese mit den Erkennungslösungen anderer Anbieter interoperabel sind. Langfristiges Ziel ist eine standardisierte, anbieterunabhängige, interoperable, sichere, datenschutzfreundliche und möglichst lokal ausführbare Erkennungslösung.

Die eingesetzten technischen Lösungen müssen vier Qualitätsanforderungen erfüllen:

  • Wirksamkeit (Effectiveness): zuverlässige Unterscheidung zwischen KI-generierten oder KI-manipulierten und anderen Inhalten;
  • Zuverlässigkeit (Reliability): konsistente und zutreffende Ergebnisse unter normalen Einsatzbedingungen;
  • Robustheit (Robustness): Erhalt der Funktionsfähigkeit auch bei Veränderungen der Inhalte oder Manipulationsversuchen;
  • Interoperabilität (Interoperability): systemübergreifende Erkennung KI-generierter oder KI-manipulierter Inhalte unabhängig von der verwendeten Technologie.

Maßgeblich sind die technische Machbarkeit, der allgemein anerkannte Stand der Technik, die Besonderheiten der jeweiligen Inhaltsmodalität sowie die Verhältnismäßigkeit der Implementierungskosten.

Der Verhaltenskodex für die Kennzeichnung und Offenlegung KI-generierter Inhalte enthält Beispiele geeigneter technischer Lösungen und kann Anbietern bei der Umsetzung der Transparenzpflichten als Orientierung dienen.

Art. 50 Abs. 2 AI Act sowie die Kommissionsleitlinien sehen eng begrenzte Ausnahmen von der Kennzeichnungs- und Erkennungspflicht vor. Diese betreffen insbesondere:

  • Standard Editing, d. h. KI-Systeme, die lediglich eine unterstützende Funktion erfüllen oder Eingabedaten bzw. deren Semantik nicht wesentlich verändern;
  • geschlossene technische Umgebungen, insbesondere industrielle oder Business-to-Business-Anwendungen mit ausschließlich technischen Inhalten und beschränktem Nutzerkreis;
  • flüchtige, in Echtzeit erzeugte Inhalte, die weder gespeichert noch weiterverbreitet werden und deren KI-Ursprung für die betroffenen Personen erkennbar ist (z. B. Inhalte in Videospielen)

KI-Systeme zur Emotionserkennung und biometrischen Kategorisierung

Als Emotionserkennungssystem gilt ein KI-System, das dazu bestimmt ist, Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten. Da Emotionserkennungssysteme grundsätzlich als Hochrisiko-KI-Systeme eingestuft werden – sofern sie nicht nach Artikel 5 verboten sind –, gilt die Transparenzpflicht nach Artikel 50 Absatz 3 AI Act ergänzend zu den für Hochrisiko-KI-Systeme bestehenden Anforderungen.

Als biometrisches Kategorisierungssystem gilt ein KI-System, das dazu bestimmt ist, natürliche Personen anhand ihrer biometrischen Daten bestimmten Kategorien zuzuordnen. Ausgenommen sind Systeme, bei denen die Kategorisierung lediglich eine Nebenfunktion eines anderen kommerziellen Dienstes darstellt und aus objektiven technischen Gründen unbedingt erforderlich ist. Die Transparenzpflicht nach Artikel 50 Absatz 3 AI Act erfasst biometrische Kategorisierungssysteme unabhängig davon, ob diese als Hochrisiko-KI-Systeme einzustufen sind.

Betreiber von Emotionserkennungs- und biometrischen Kategorisierungssystemen sind verpflichtet, betroffene natürliche Personen darüber zu informieren, dass sie einem solchen KI-System ausgesetzt sind. Die Informationspflicht betrifft ausschließlich den Einsatz des Systems; eine Begründung für dessen Verwendung ist nach dem AI Act nicht erforderlich.

Die Information ist allen betroffenen natürlichen Personen, einschließlich Kindern, spätestens zum Zeitpunkt der ersten Exposition gegenüber dem KI-System in klarer, leicht wahrnehmbarer und barrierefreier Form bereitzustellen. Der AI Act schreibt hierfür keine bestimmte Form vor. Je nach Einsatzkontext kann die Information beispielsweise schriftlich, mündlich, durch standardisierte Symbole oder durch eine Kombination dieser Mittel erfolgen. Maßgeblich sind insbesondere der Einsatzort, die betroffene Zielgruppe sowie bestehende Kommunikationsmöglichkeiten mit den betroffenen Personen.

Deepfakes

Die Transparenzpflicht gilt für KI-Systeme, die

  • als KI-Systeme im Sinne des AI Act einzustufen sind,
  • von Betreibern zu nicht ausschließlich persönlichen Zwecken eingesetzt werden,
  • Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die einen Deep Fake darstellen, und
  • nicht unter die gesetzliche Ausnahme für den Einsatz zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten fallen.

Ein Deep Fake im Sinne des Artikels 3 Nummer 60 AI Act liegt vor, wenn ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Eine vollständige Übereinstimmung mit dem dargestellten Objekt ist nicht erforderlich. Nicht erfasst sind Inhalte, die offensichtlich unrealistische oder rein fiktive Szenarien darstellen und deshalb keine Verwechslungsgefahr mit der Realität begründen.

Den Leitlinien der Europäischen Kommission folgend sind auch Abbildungen, die existieren könnten, als Deep Fake einzustufen. Beispielhaft wird eine fotorealistische Darstellung von Personen als Deep Fake einzustufen sein, selbst, wenn die abgebildeten Personen keinem realen Vorbild entsprechen.

Ob ein Inhalt als Deep Fake einzustufen ist, hängt zudem davon ab, ob er geeignet ist, bei den angesprochenen Personen einen falschen Eindruck über seine Authentizität oder Wahrhaftigkeit hervorzurufen. Maßgeblich ist dabei nicht die Täuschungsabsicht des Betreibers, sondern die Wahrnehmung des potentiellen Publikums. Dabei sind insbesondere die Zusammensetzung der Zielgruppe sowie deren digitales und KI-bezogenes Kompetenzniveau zu berücksichtigen. Geringfügige technische Bearbeitungen bestehender Inhalte, etwa Farbkorrekturen, Rauschunterdrückung oder ähnliche Optimierungen, begründen regelmäßig keinen Deep Fake, sofern sie die Wahrnehmung der Authentizität des Inhalts nicht wesentlich beeinflussen.

Betreiber von KI-Systemen, die Deep-Fake-Inhalte erzeugen oder manipulieren, sind verpflichtet, offenzulegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden. Die Offenlegung muss spätestens zum Zeitpunkt der ersten Wahrnehmung des Deepfakes erfolgen. Sie muss klar, eindeutig und für die betroffenen Personen unmittelbar wahrnehmbar sein. Sichtbare, bei Video- und Bildinhalten oder hörbare, bei reinen Audioinhalten, Kennzeichnungen genügen grundsätzlich den Anforderungen des AI Act.

Im Zusammenhang mit dem Verhaltenskodex für die Kennzeichnung und Offenlegung KI-generierter Inhalte hat die Europäische Kommission ein Set von Symbolen (Icons) ausgearbeitet, das Betreiber generativer KI-Systeme lizenzfrei zur Kennzeichnung KI-generierter Inhalte verwenden können.

EU Symbole zur Kennzeichnung KI-generierter Inhalte
Bereitgestellte Symbole in verschiedenen Ausgestaltungen und Farb-/Transparenzkombinationen © RTR (CC BY 4.0)

Werden die Symbole verwendet, sollten diese gut sichtbar unmittelbar in KI-Inhalte platziert werden. Um Barrierefreiheit zu gewährleisten, sollte das Symbol auch für assistive Technologien zugänglich sein, etwa durch die Verwendung eines "alt"-Texts. Weitere Informationen zur Verwendung dieser Symbole sind direkt auf der Website der Europäischen Kommission abrufbar.

Ein vollständig KI-generiertes Bild einer Wiener Straße. Bauwerke aus der Gründerzeit, ein Fahrradstreifen, einige alte Linden, Parkverbot für Autos. Keine Personen. Einige parkende Autos und Fahrräder in einem Wiener Fahrradständer.
Beispiel eines gekennzeichneten vollständig KI-generierten Bildes. Das Symbol ist in der rechten oberen Ecke direkt im Bild unmittelbar in den Bilddaten hinterlegt. Zusätzlich ist im Alternativtext des Bildes die Eigenschaft des Deep Fakes hinterlegt. © RTR (CC BY 4.0)

Bei KI generierten oder manipulierten Audioinhalten ist zu Beginn ein in einfacher und natürlicher Sprache gesprochener Hinweis auf die Nutzung von KI notwendig. Bei längeren Video- oder Audioinhalten ist zusätzlich darauf zu achten, dass in regelmäßigen Abständen, beispielsweise nach Werbepausen, erneut auf die KI-Nutzung hingewiesen wird.

Für Deep Fakes, die Bestandteil offensichtlich künstlerischer, kreativer, satirischer, fiktionaler oder vergleichbarer Werke oder Programme sind, sieht der AI Act eine erleichterte Transparenzpflicht vor. Auch in diesen Fällen muss die künstliche Herkunft oder Manipulation des Inhalts offengelegt werden; die Offenlegung ist jedoch in einer Weise vorzunehmen, die die normale Wahrnehmung oder den Genuss des Werkes nicht beeinträchtigt. Ob diese Ausnahme greift, ist anhand der Art des Werkes, des Präsentationskontexts sowie der berechtigten Erwartungen des Publikums im Einzelfall zu beurteilen. Inhalte, die überwiegend informativen oder kommerziellen Zwecken dienen, fallen regelmäßig nicht unter diese Privilegierung.

Von der Transparenzpflicht ausgenommen sind schließlich Deep Fakes, deren Einsatz aufgrund einer gesetzlichen Grundlage der Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten dient.

Unabhängig der Transparenzpflicht für Betreiber gilt bei allen betroffenen Systemen die Verpflichtung zur Kennzeichnung von synthetischen Inhalten. Jedes Deepfake ist ein synthetisches Bild/Video/Audio, aber nicht jedes synthetische Bild/Video/Audio ist auch ein Deepfake. Selbst bei KI-generierten Inhalten, die nicht als Deep Fake gekennzeichnet werden müssen, ist deshalb durch den Anbieter des KI-Systems eine maschinenlesbare Kennzeichnung zu hinterlegen.

Visualisierung synthetischer Inhalt vs. Deep Fake
Synthetische Inhalte lösen Pflichten für deren Anbieter aus. Deep Fakes und KI-Texte zur Information der Öffentlichkeit über Angelegenheiten des Öffentlichen Interesses lösen Betreiberpflichten aus. © RTR (CC BY 4.0)

Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse

Die Transparenzpflicht gilt für KI-Systeme, die

  • als KI-Systeme im Sinne des AI Act einzustufen sind,
  • Texte erzeugen oder manipulieren, die mit dem Ziel veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und
  • nicht unter eine der gesetzlich vorgesehenen Ausnahmen fallen.

Die Transparenzpflicht entfällt, wenn

  • der KI-generierte oder KI-manipulierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für dessen Veröffentlichung trägt, oder
  • der Einsatz des KI-Systems aufgrund einer gesetzlichen Grundlage der Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten dient.

Als veröffentlicht gelten Texte, die einer unbestimmten und potenziell großen Zahl von Personen zugänglich sind. Nicht erfasst sind hingegen Texte, die ausschließlich einem begrenzten Personenkreis zugänglich sind, etwa private Korrespondenz oder unternehmensinterne Dokumente.

Die Informationspflicht setzt ferner voraus, dass die Veröffentlichung der Information der Öffentlichkeit dient. Erfasst sind daher Texte, die Wissen, Tatsachen oder Meinungen zu Angelegenheiten von öffentlichem Interesse vermitteln. Darunter fallen grundsätzlich Themen, die für die Gesellschaft insgesamt auf lokaler, nationaler, unionsweiter oder internationaler Ebene relevant sind und ein öffentliches Interesse oder eine öffentliche Debatte begründen können. Hierzu zählen insbesondere Themen im Zusammenhang mit Politik und demokratischen Prozessen, öffentlicher Verwaltung und öffentlichen Dienstleistungen, Justiz und Strafverfolgung, dem Schutz der Grundrechte, der öffentlichen Sicherheit, der öffentlichen Gesundheit, dem Umweltschutz, der Verbrauchersicherheit sowie wirtschaftlichen, finanziellen, politischen, wissenschaftlichen oder kulturellen Entwicklungen, die Gegenstand einer öffentlichen Debatte sein können. Ob eine Angelegenheit von öffentlichem Interesse vorliegt, ist anhand der Umstände des Einzelfalls zu beurteilen; was als Angelegenheit von öffentlichem Interesse gilt, kann sich zudem im Zeitverlauf und je nach Kontext verändern. Dagegen fallen Inhalte, die ausschließlich Unterhaltungszwecken dienen, grundsätzlich nicht in den Anwendungsbereich der Vorschrift.

Betreiber (d.h. die Verwender) dieser KI-Systeme sind verpflichtet, offenzulegen, dass der veröffentlichte Text künstlich erzeugt oder manipuliert wurde. Die Kennzeichnung muss klar, eindeutig und für natürliche Personen ohne besondere technische Hilfsmittel wahrnehmbar sein. Hierfür kommen insbesondere gut sichtbare Hinweise oder entsprechende Disclaimer in Betracht.

Von der Transparenzpflicht besteht eine Ausnahme, wenn zwei Voraussetzungen kumulativ erfüllt sind.

  • Zum einen muss der KI-generierte oder KI-manipulierte Text einer inhaltlichen menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen worden sein. Erforderlich ist eine tatsächliche inhaltliche Prüfung durch fachlich geeignete Personen oder eine redaktionelle Kontrolle, die insbesondere auch die Überprüfung von Tatsachen und Quellen umfasst. Rein formale oder technische Kontrollen, wie Rechtschreib- oder Grammatikprüfungen, genügen hierfür nicht.
  • Zum anderen muss eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernehmen. Diese trägt die letztendliche rechtliche Verantwortung für den Inhalt sowie für die durchgeführte menschliche Überprüfung oder redaktionelle Kontrolle. Zur Gewährleistung von Transparenz und Nachvollziehbarkeit empfehlen die Kommissionsleitlinien, die Identität und die Kontaktdaten der verantwortlichen Person oder Organisation an leicht zugänglicher Stelle öffentlich verfügbar zu machen.