Kennzeichnungspflicht im AI Act: Was die neue EU-Leitlinie für Deepfakes klarstellt

Was regelt die neue EU-Leitlinie, und wie verbindlich ist sie?

Die EU-Kommission hat am 8. Mai 2026 einen Konsultationsentwurf für Leitlinien zur Umsetzung der Transparenzpflichten nach Art. 50 AI Act veröffentlicht. Er soll Behörden, Anbietern und Betreibern Orientierung geben, ist selbst aber rechtlich nicht bindend.

Der Entwurf adressiert die Transparenzpflichten, die ab dem 2. August 2026 anwendbar werden, und legt die unbestimmten Rechtsbegriffe des Art. 50 aus. Dazu zählt neben „Deepfake" auch die redaktionelle Verantwortung bei KI-gestützten Inhalten. Praxisbeispiele ergänzen die Auslegung. Die Konsultationsfrist lief bis zum 3. Juni 2026; eine finale Fassung wird vor dem 2. August 2026 erwartet.

Maßgeblich bleibt die KI-Verordnung selbst (Verordnung (EU) 2024/1689); ihre letztverbindliche Auslegung obliegt dem EuGH, und eine entsprechende Entscheidung kann noch Jahre dauern.

Gerade deshalb ist der Entwurf für die Praxis wertvoll: Bis zu einer höchstrichterlichen Klärung bietet er die einzige strukturierte Auslegungshilfe. Dieser Beitrag konzentriert sich auf Art. 50 Abs. 4 AI Act, der die Deepfake-Kennzeichnung regelt und damit die Grenze zwischen zulässiger KI-Nutzung, Kennzeichnungspflicht und möglicher Irreführung zieht.

Kurz: Der Entwurf ist nicht bindend, aber die derzeit beste Richtschnur für die Auslegung der Kennzeichnungspflicht im AI Act.

Wann gilt ein KI-Inhalt als Deepfake?

Ein Deepfake ist nach Art. 3 Nr. 60 AI Act ein KI-erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Der Entwurf konkretisiert diese Definition über drei Kriterien.

Erstens die erhebliche Ähnlichkeit. Nach Erwägungsgrund 134 muss ein hohes Maß an Ähnlichkeit zwischen dem Deepfake-Inhalt und dem simulierten Gegenstand bestehen. Eine vollständige Identität ist nicht erforderlich. Die Beurteilung erfolgt einzelfallbasiert durch den Betreiber anhand eines objektiven Vergleichs.

Zweitens der Realismus. Der dargestellte Bezugspunkt muss realistisch sein, also in der Realität existieren oder zumindest existiert haben können, einschließlich historischer Ereignisse. Nicht erfasst sind Inhalte, die Naturgesetze verletzen oder biologisch nicht anerkannte Lebensformen zeigen. Ein KI-generiertes Bild eines fliegenden Menschen ohne Hilfsmittel, eines Drachen oder eines sprechenden Tieres fällt damit nicht unter die Deepfake-Definition.

Drittens die erfassten Kategorien. Der Entwurf ordnet die fünf Kategorien aus Art. 3 Nr. 60 — Personen, Objekte, Orte, Einheiten und Ereignisse — konkret zu:

Kategorie	Was darunterfällt
Personen	Realistische natürliche Menschen, inklusive digitaler Repliken und realistischer KI-Avatare
Objekte	Unbelebte materielle Gegenstände wie Gebäude, Kunstwerke, Maschinen, Konsumgüter
Orte	Realistische Örtlichkeiten
Einheiten	Nicht-menschliche Lebewesen wie Tiere und biologische Lebensformen
Ereignisse	Realistische Szenen und Situationen, inklusive historischer Ereignisse und Dienstleistungsdarstellungen

Praxisbeispiel

Wie schwierig die Abgrenzung im Einzelfall ist, zeigt ein Beispiel. Beide folgenden KI-Bilder zeigen einen fiktiven Ort und ein (bislang) fiktives Ereignis: eine Feier zum Gewinn der Fußball-Weltmeisterschaft durch Deutschland 2026.

Nach einer engen Auslegung der KI-Verordnung wären beide Bilder wohl keine kennzeichnungspflichtigen Deepfakes, da sie weder reale Personen noch einen realen Ort abbilden. Legt man dagegen eine weite Auslegung zugrunde, kann bereits die Ähnlichkeit zu realen Menschen, Orten oder Ereignissen ausreichen.

Bild 1 (realistische Feier): Nach der weiten Auslegung könnte dieses Bild als Deepfake gelten, weil es eine realistisch wirkende Feier mit Menschen zeigt und im richtigen Kontext eine Fehlvorstellung über ein tatsächliches Ereignis hervorrufen könnte.

KI-generiertes Bild von feiernden Menschen an einem fiktiven Ort.

Bild 2 (menschengroße Capybaras): Hier machen die menschengroßen Capybaras auf den ersten Blick deutlich, dass es sich nicht um die realistische Darstellung eines tatsächlichen Ereignisses handelt. Das Bild ist zwar ein synthetischer KI-Inhalt, aber nach dieser Betrachtung kein Deepfake.

KI-generiertes Bild von feiernden, menschengroßen Capybaras an einem fiktiven Ort.

Ob ein Inhalt ein Deepfake ist, entscheidet sich also an Ähnlichkeit und Realismus, nicht an der eingesetzten Technik allein. Genau an dieser Grenze liegt die derzeitige Rechtsunsicherheit.

Was müssen Betreiber nach der Kennzeichnungspflicht offenlegen?

Betreiber eines KI-Systems, das Deepfakes erzeugt oder manipuliert, müssen nach Art. 50 Abs. 4 AI Act offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Wie diese Offenlegung auszusehen hat, regelt Art. 50 Abs. 5.

Nach dem Verständnis der Kommission muss die Kennzeichnung folgende Anforderungen erfüllen:

• Klar und erkennbar. Klar bedeutet, dass die Information für die betroffene Person bemerkbar und leicht verständlich ist, auch für Kinder und Personen mit Zugangsbedürfnissen. Erkennbar bedeutet, dass sie sich leicht von sonstigen Informationen und dem Darstellungskontext abgrenzen lässt.
• Wahrnehmbar ohne technische Hilfsmittel. Die Kennzeichnung muss sichtbar oder hörbar sein. Eine rein maschinenlesbare Markierung genügt allein nicht.
• Spätestens bei erster Exposition. Die Offenlegung muss jeder natürlichen Person beim ersten Kontakt mit dem System oder dem Output zur Verfügung stehen.
• Barrierefrei. Einschlägig sind die Richtlinie 2016/2102 und der European Accessibility Act (RL 2019/882). Eigene zusätzliche Anforderungen schafft Art. 50 nicht; Betreiber prüfen die Anwendbarkeit auf ihr Produkt selbst.

Ausdrücklich nicht ausreichend ist eine Offenlegung, die ausschließlich in AGB, URLs, Dokumentationen oder versteckten Menüebenen erfolgt. Solche Hinweise können die kontextbezogene Kennzeichnung ergänzen, aber nicht ersetzen.

Besonders deutlich wird das bei Live-Übertragungen: Hier reicht ein einmaliger Hinweis nicht aus. Die Offenlegung muss laufend erfolgen, damit auch später hinzukommende Zuschauer sie wahrnehmen. Eine Kennzeichnung erst am Ende der Interaktion genügt nicht.

Entscheidend ist also nicht nur, dass Sie kennzeichnen, sondern wie sichtbar und rechtzeitig Sie es tun.

Welche Ausnahme gilt für künstlerische und satirische Werke?

Für künstlerische, kreative, satirische oder fiktionale Werke gilt eine abgeschwächte Transparenzpflicht. Nach Erwägungsgrund 134 darf die Offenlegung den Genuss des Werks nicht beeinträchtigen.

Der Entwurf knüpft diese Ausnahme an drei Voraussetzungen:

1. Der Deepfake ist Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks oder Programms.
2. Dieser Charakter ist anhand von Format, Kontext und Publikumserwartungen offensichtlich erkennbar. Überwiegen rein informative oder kommerzielle Zwecke, greift die Ausnahme nicht.
3. Der angemessene Schutz der Rechte und Freiheiten Dritter, etwa Persönlichkeits- und IP-Rechte, bleibt nach Maßgabe des Unionsrechts unberührt.

Praktisch heißt das: Eine als Satire klar erkennbare Politik-Parodie kann unter die Ausnahme fallen und benötigt keinen aufdringlichen Hinweis mitten im Bild. Ein KI-generiertes Werbevideo dagegen verlässt die Kategorie, sobald der kommerzielle Zweck dominiert.

Die Ausnahme entbindet also nicht von der Kennzeichnung, sondern erlaubt nur eine zurückhaltendere Form, die den Werkgenuss nicht stört.

Worauf kommt es bei der Einzelfallbeurteilung an?

Ob für KI-Inhalte überhaupt eine Kennzeichnungspflicht greift, entscheidet sich nicht abstrakt, sondern am konkreten Fall. Eine Täuschungsabsicht des Betreibers ist dabei nicht erforderlich. Maßgeblich ist, ob der Inhalt einer Person fälschlicherweise als echt erscheinen würde, und zwar gemessen an der tatsächlichen oder vorhersehbaren Zusammensetzung des konkreten Publikums.

Damit weicht der Entwurf bewusst von Art. 50 Abs. 1 ab: Es zählt nicht eine hypothetische Durchschnittsperson, sondern das konkrete Publikum. Richtet sich ein Inhalt an Kinder, ältere Menschen oder Personen mit geringerer Medienkompetenz, sind diese Gruppen besonders zu berücksichtigen.

Zugleich erkennt der Entwurf eine Bagatellschwelle an. Eine geringfügige technische KI-Manipulation, etwa eine bloße Belichtungsanpassung, kann unterhalb der Erheblichkeitsschwelle bleiben und damit keine Kennzeichnungspflicht auslösen. Auch das ist einzelfallabhängig.

Für die Praxis bedeutet das: Wer KI-Inhalte veröffentlicht, sollte das konkrete Publikum kennen und den Grad der Manipulation realistisch einschätzen, statt sich auf eine pauschale Durchschnittsbetrachtung zu verlassen.

Fazit: Die Kennzeichnungspflicht im AI Act wird konkreter, handeln sollten Betreiber trotzdem schon jetzt

Der Konsultationsentwurf gibt erstmals strukturierte Antworten darauf, wann KI-Inhalte als Deepfake gelten und wie die Offenlegung nach Art. 50 Abs. 4 AI Act auszusehen hat. Zentral sind drei Punkte: Ein Deepfake setzt erhebliche Ähnlichkeit zu einem realistischen Bezugspunkt voraus, die Kennzeichnung muss klar, sichtbar und rechtzeitig erfolgen, und für erkennbar kreative oder satirische Werke gilt eine abgeschwächte Pflicht.

Der Entwurf ist nicht bindend, und die letztverbindliche Auslegung bleibt dem EuGH vorbehalten. Da die Transparenzpflichten aber ab dem 2. August 2026 gelten, sollten Sie Ihre KI-gestützten Inhalte schon jetzt auf Kennzeichnungsbedarf prüfen, statt auf eine endgültige Klärung zu warten.

Häufig gestellte Fragen

Ab wann gilt die Kennzeichnungspflicht für Deepfakes?

Die Transparenzpflichten nach Art. 50 AI Act, einschließlich der Deepfake-Kennzeichnung, werden ab dem 2. August 2026 anwendbar. Der aktuelle Leitlinienentwurf der EU-Kommission soll die Umsetzung bis dahin vorbereiten, ist selbst aber nicht rechtsverbindlich.

Wie müssen Unternehmen Deepfakes kennzeichnen?

Unternehmen müssen Deepfakes klar, erkennbar und ohne technische Hilfsmittel wahrnehmbar kennzeichnen, also sichtbar oder hörbar. Die Offenlegung muss spätestens beim ersten Kontakt erfolgen; ein Hinweis allein in den AGB oder in versteckten Menüs reicht nicht aus.

Reicht eine rein maschinenlesbare Kennzeichnung aus?

Nein, eine ausschließlich maschinenlesbare Markierung genügt nicht. Nach dem Verständnis der Kommission muss die Offenlegung ohne technische Hilfsmittel wahrnehmbar sein, also sichtbar oder hörbar. Maschinenlesbare Markierungen können nur ergänzend hinzukommen.

Gilt die Kennzeichnungspflicht auch für realistische KI-Avatare?

Ja, realistische KI-Avatare und digitale Repliken echter Menschen fallen unter die Deepfake-Definition. Entscheidend ist die erhebliche Ähnlichkeit zu einer realistischen natürlichen Person, nicht die eingesetzte Technik.

Muss der Betreiber eine Täuschungsabsicht haben, damit die Pflicht greift?

Nein, eine Täuschungsabsicht ist nicht erforderlich. Maßgeblich ist allein, ob der Inhalt dem konkreten Publikum fälschlicherweise als echt erscheinen würde, wobei besonders schutzbedürftige Gruppen zu berücksichtigen sind.

Wie ist mit Live-Übertragungen umzugehen?

Bei Live-Übertragungen muss die Offenlegung laufend erfolgen, nicht nur einmalig zu Beginn. So wird sichergestellt, dass auch später hinzukommende Zuschauer den Hinweis auf den KI-generierten Inhalt wahrnehmen.