KI-Kennzeichnungspflicht: So kennzeichnen Sie Chatbots, Deepfakes und andere KI-Inhalte richtig

Was schreiben die KI-Kennzeichnungspflichten aus Art. 50 AI Act vor, und seit wann gelten sie?

Art. 50 der KI-Verordnung (Verordnung (EU) 2024/1689) enthält seit dem 2. August 2026 verschiedene Transparenzpflichten für Anbieter und Betreiber von KI-Systemen. Im Sprachgebrauch werden sie meist als KI-Kennzeichnungspflicht zusammengefasst. Für Unternehmen sind insbesondere drei Konstellationen relevant: interaktive KI-Systeme wie Chatbots, KI-generierte oder KI-manipulierte Inhalte einschließlich Deepfakes sowie der Einsatz von Emotionserkennung oder biometrischer Kategorisierung.

Chatbots und interaktive Systeme

Anbieter von Chatbots und anderen KI-Systemen, die unmittelbar mit natürlichen Personen interagieren, müssen sicherstellen, dass Nutzer erkennen können, dass sie mit einem KI-System kommunizieren.

Die Information muss grundsätzlich spätestens bei der ersten Interaktion klar und unterscheidbar erfolgen. Sie kann entfallen, wenn der KI-Charakter für eine angemessen informierte, aufmerksame und verständige Person aufgrund der konkreten Umstände offensichtlich ist. Nach den Leitlinien der EU-Kommission ist diese Ausnahme eng auszulegen; insbesondere Nutzungskontext und angesprochene Personengruppe sind zu berücksichtigen.

Die Pflicht trifft den Anbieter des KI-Systems. Binden Sie eine externe Lösung ein, prüfen Sie deshalb, welches Unternehmen im konkreten Fall als Anbieter und welches als Betreiber handelt.

Deepfakes und synthetische Inhalte

Für KI-generierte oder KI-manipulierte Audio-, Bild-, Video- oder Textinhalte enthält Art. 50 zunächst eine technische Kennzeichnungspflicht. Anbieter entsprechender KI-Systeme müssen sicherstellen, dass deren Outputs in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Kennzeichnung muss, soweit technisch möglich, wirksam, interoperabel, robust und zuverlässig sein.

Hinweis: Für KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, gilt für die technische Kennzeichnungspflicht nach Art. 50 Abs. 2 eine Übergangsfrist bis zum 2. Dezember 2026.

Daneben bestehen für Betreiber Offenlegungspflichten bei bestimmten veröffentlichten Inhalten. Dies betrifft insbesondere Deepfakes sowie KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Als Deepfake gelten KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich authentisch oder wahr erscheinen können. Ob diese Voraussetzungen erfüllt sind, richtet sich nach dem konkreten Inhalt und seinem Kontext.

Bei künstlerischen, kreativen, satirischen oder fiktiven Werken gelten erleichterte Anforderungen an die Art der Offenlegung. Bei Texten zu Angelegenheiten von öffentlichem Interesse entfällt die Offenlegungspflicht, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Emotionserkennung und biometrische Kategorisierung

Betreiber von KI-Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen die davon betroffenen Personen grundsätzlich über den Einsatz des Systems informieren.

Daneben bleiben die datenschutzrechtlichen Anforderungen an die jeweilige Verarbeitung personenbezogener Daten anwendbar.

Wer ist zur KI-Kennzeichnung verpflichtet: Anbieter oder Betreiber?

Art. 50 verteilt die Transparenzpflichten auf Anbieter und Betreiber von KI-Systemen. Die jeweilige Rolle bestimmt, welche Pflichten ein Unternehmen selbst erfüllen muss.

• Anbieter: Wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, ist Anbieter. Das gilt unabhängig davon, ob das Unternehmen seinen Sitz innerhalb oder außerhalb der EU hat, sofern die Voraussetzungen für die Anwendung der KI-Verordnung erfüllt sind.
• Betreiber: Wer ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit verwendet, ist Betreiber. Die rein persönliche und nicht berufliche Nutzung ist ausgenommen.
• Freiberufler und Selbstständige: Auch natürliche Personen können Betreiber sein, wenn sie ein KI-System im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzen. Nach den Leitlinien kann hierfür insbesondere eine regelmäßig auf wirtschaftlichen Vorteil gerichtete Nutzung sprechen.
• Arbeitnehmer: Beschäftigte, die ein KI-System unter der Verantwortung und Kontrolle ihres Arbeitgebers einsetzen, werden dadurch grundsätzlich nicht selbst zu Betreibern. Die Betreiberrolle liegt regelmäßig beim Unternehmen.

Bei einem extern entwickelten Chatbot kann ein Unternehmen damit Betreiber des Systems sein, während der Hersteller Anbieter bleibt. Je nach Ausgestaltung kann ein Unternehmen allerdings auch selbst Anbieterpflichten übernehmen, etwa wenn ein System unter dem eigenen Namen oder der eigenen Marke in Betrieb genommen wird.

Prüfen Sie die Rollenverteilung deshalb für jeden KI-Einsatz gesondert.

 

Welche Inhalte fallen nicht unter die technische Kennzeichnungspflicht?

Die technische Kennzeichnungspflicht nach Art. 50 Abs. 2 erfasst nicht jeden Output eines KI-Systems. Die Leitlinien der EU-Kommission konkretisieren mehrere Fallgruppen, die außerhalb ihres Anwendungsbereichs liegen.

Dazu gehören insbesondere:

• kurze Folgen von Zahlen, Symbolen oder Buchstaben ohne eigenständigen synthetischen Inhalt,
• Quellcode,
• Outputs, die ausschließlich für eine automatisierte Maschine-zu-Maschine-Kommunikation bestimmt und keiner natürlichen Person zugänglich sind,
• bestimmte Outputs, die ausschließlich innerhalb geschlossener industrieller oder produktbezogener Entwicklungsumgebungen verwendet werden,
• Standardbearbeitungen, bei denen das KI-System eine unterstützende Funktion übernimmt, sowie Bearbeitungen, die die Eingabedaten oder deren Semantik nicht wesentlich verändern.

Eine reine Rechtschreib- oder Grammatikkorrektur kann beispielsweise unter die Ausnahme für Standardbearbeitungen fallen. Bei weitergehenden Änderungen kommt es auf Umfang und Wirkung der KI-Bearbeitung an.

Für künstlerische, kreative, satirische oder fiktive Werke gilt keine generelle Ausnahme. Soweit ein Deepfake vorliegt, kann die Offenlegung jedoch in einer Form erfolgen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Wie muss die KI-Kennzeichnung konkret aussehen?

Die konkrete Umsetzung richtet sich danach, ob eine technische Kennzeichnung durch den Anbieter oder eine Offenlegung gegenüber natürlichen Personen erforderlich ist.

Was gilt für die maschinenlesbare Kennzeichnung?

Anbieter generativer KI-Systeme müssen ihre Systeme so ausgestalten, dass entsprechende Outputs maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.

Art. 50 schreibt hierfür keinen bestimmten technischen Standard vor. In der Praxis können insbesondere Herkunftsinformationen und technische Provenienzverfahren eingesetzt werden. Standards wie C2PA können dabei eine Rolle spielen; ihre Verwendung wird durch die KI-Verordnung selbst nicht vorgeschrieben.

Die EU-Kommission hat für die Umsetzung den Code of Practice on Transparency of AI-generated Content veröffentlicht. Er konkretisiert geeignete Maßnahmen zur technischen Kennzeichnung und Erkennbarkeit. Die Teilnahme am Code ist freiwillig.

Kommission und AI Board haben ihn als geeignetes Instrument anerkannt, um die Einhaltung der Transparenzpflichten nach Art. 50 Abs. 2, 4 und 5 nachzuweisen. Andere geeignete Compliance-Lösungen bleiben möglich. Die Einhaltung des Codes stellt für sich genommen jedoch keinen abschließenden Nachweis der Compliance dar.

Wie muss die Offenlegung gegenüber Menschen aussehen?

Bei Deepfakes und kennzeichnungspflichtigen Texten muss die Information für natürliche Personen wahrnehmbar sein. Sie ist spätestens bei der ersten Wahrnehmung klar und unterscheidbar bereitzustellen.

Für die Gestaltung enthält der Code of Practice detailliertere Vorgaben. Die EU-Kommission stellt außerdem drei unterschiedliche Icons zur Verfügung: ein allgemeines Symbol für KI-Beteiligung, ein Symbol für vollständig KI-generierte Inhalte und ein Symbol für teilweise KI-manipulierte Inhalte. Die Icons sind jeweils in mehreren Darstellungsvarianten verfügbar.

Die Verwendung der EU-Icons ist freiwillig. Auch andere geeignete Formen der Offenlegung können die Anforderungen des Art. 50 erfüllen.

Bei Verwendung der EU-Icons empfiehlt die Kommission insbesondere eine gut wahrnehmbare Platzierung, eine verständliche zusätzliche Textbezeichnung und eine barrierefreie Gestaltung. Das Icon soll spätestens bei der ersten Wahrnehmung sichtbar sein und grundsätzlich auch bei einer Weitergabe oder einem Download des Inhalts erhalten bleiben.

Nutzt ein Unternehmen fremde KI-Werkzeuge, liegt die technische Kennzeichnung damit grundsätzlich beim Anbieter, die Offenlegung von Deepfakes und bestimmten Texten beim Unternehmen als Betreiber.

Welche Fristen gelten für die KI-Kennzeichnungspflicht?

Die Transparenzpflichten des Art. 50 gelten grundsätzlich seit dem 2. August 2026.

Für die technische Kennzeichnung nach Art. 50 Abs. 2 besteht eine Übergangsregelung für Bestandssysteme. Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und bereits vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die Anforderungen des Art. 50 Abs. 2 spätestens ab dem 2. Dezember 2026 erfüllen.

Die übrigen Transparenzpflichten des Art. 50 werden von dieser Übergangsregelung nicht erfasst.

Nach den Leitlinien besteht für Inhalte, die bereits vor dem 2. August 2026 erzeugt wurden, keine rückwirkende Kennzeichnungspflicht. Die Kommission empfiehlt eine nachträgliche Kennzeichnung, soweit sie praktisch möglich ist.

Die Übergangsfrist bis zum 2. Dezember 2026 betrifft damit allein die technische Kennzeichnung durch Anbieter von Bestandssystemen.

Praxis-Katalog: Fünf typische Einsatzfälle der KI-Kennzeichnungspflicht im Unternehmen

Die folgenden fünf Situationen sind in mittleren und großen Unternehmen typisch. Sie zeigen, wie sich die abstrakten Pflichten aus Art. 50 auf konkrete KI-Anwendungen übertragen.

Einsatzfall	Was passiert	Kennzeichnungspflicht
Service-Chatbot auf der Website	Ein KI-System beantwortet Kundenanfragen automatisiert.	Ja, wenn der Chatbot für einen echten wechselseitigen Austausch mit Nutzern eingesetzt wird und der KI-Charakter nicht offensichtlich ist. Der Hinweis muss spätestens zu Beginn der ersten Interaktion erfolgen.
KI-generierte Produktbilder im Onlineshop	Produktfotos werden vollständig oder teilweise mit KI erstellt oder bearbeitet.	Technische Kennzeichnung: grundsätzlich durch den Anbieter des KI-Systems. Sichtbare Offenlegung: Ja, wenn das Bild einen Deepfake darstellt.
Synthetische Stimmen in der Telefonanlage	Eine KI-Stimme führt durch das Sprachmenü oder beantwortet Standardanfragen.	Ja, wenn die Sprach-KI für einen echten wechselseitigen Austausch mit Anrufenden eingesetzt wird und der KI-Charakter nicht offensichtlich ist. Eine bloße Ansage oder rein automatisierte Standardantwort fällt nicht unter Art. 50 Abs. 1.
KI-Textbausteine im E-Mail-Support	KI unterstützt bei individuellen Kundenantworten.	Regelmäßig keine Offenlegung nach Art. 50 Abs. 4, da die Kommunikation typischerweise nicht der Veröffentlichung von Informationen an die Öffentlichkeit dient.
KI-Avatare in Schulungsvideos	Ein virtueller Avatar präsentiert Schulungsinhalte.	Abhängig von der Gestaltung. Eine Offenlegung nach Art. 50 Abs. 4 ist erforderlich, wenn der Avatar als Deepfake einzustufen ist; bei interaktiven Avataren kann zusätzlich Art. 50 Abs. 1 greifen.

Was ändert sich ab dem 2. Dezember 2026 zusätzlich zur Kennzeichnungspflicht?

Zum 2. Dezember 2026 treten zwei durch den Digital Omnibus on AI neu eingeführte Verbote in Art. 5 der KI-Verordnung in Kraft. Sie betreffen zum einen bestimmte KI-Systeme zur Erzeugung oder Manipulation realistischer nicht einvernehmlicher intimer Darstellungen identifizierbarer Personen. Zum anderen werden bestimmte KI-Systeme zur Erzeugung oder Manipulation von Darstellungen sexuellen Kindesmissbrauchs erfasst.

Die Verbote betreffen die Zulässigkeit der jeweiligen KI-Praxis und stehen neben den Transparenzpflichten aus Art. 50. Praktische Bedeutung haben sie insbesondere für Anbieter und Betreiber von Systemen zur Bild-, Video- oder Audiogenerierung.

Was passiert bei Verstößen gegen die Kennzeichnungspflicht?

Verstöße gegen Art. 50 können mit Geldbußen von bis zu 15 Millionen Euro oder, bei Unternehmen, bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist. Für KMU einschließlich Start-ups gilt jeweils der niedrigere der beiden Höchstbeträge; für Small Mid-Caps bestehen ebenfalls besondere Obergrenzen.

In Deutschland ist grundsätzlich die Bundesnetzagentur für die Marktüberwachung zuständig. Besondere Zuständigkeiten bestehen für einzelne Bereiche, etwa für bestimmte regulierte Produkte und den Finanzsektor.

Fazit: KI-Kennzeichnungspflicht in drei Schritten prüfen

Bei der Umsetzung der KI-Kennzeichnungspflicht kommt es für Unternehmen vor allem auf die konkrete Nutzung des KI-Systems und die eigene Rolle als Anbieter oder Betreiber an.

Anbieter müssen insbesondere die Transparenz bei interaktiven KI-Systemen und die technische Kennzeichnung generierter Inhalte sicherstellen. Betreiber treffen Informations- und Offenlegungspflichten bei Emotionserkennung und biometrischer Kategorisierung sowie bei Deepfakes und bestimmten KI-generierten Texten.

Für die Prüfung in Ihrem Unternehmen bieten sich drei Schritte an:

1. Rolle als Anbieter oder Betreiber bestimmen,
2. einschlägigen Anwendungsfall des Art. 50 identifizieren,
3. erforderliche technische Kennzeichnung oder Offenlegung festlegen.

Die Leitlinien der EU-Kommission und der Code of Practice konkretisieren die Anforderungen und geben zusätzliche Orientierung für die praktische Umsetzung.

 

Häufig gestellte Fragen

Gelten die Kennzeichnungspflichten auch für KI-unterstützte Texte oder nur für vollständig KI-generierte Inhalte?

Das hängt davon ab, ob der Text zu Angelegenheiten von öffentlichem Interesse veröffentlicht wird und ob er vorher inhaltlich von einem Menschen geprüft wurde.

Art. 50 Abs. 4 erfasst KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Eine Offenlegung ist nicht erforderlich, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Nach den Leitlinien muss sich die menschliche Überprüfung auf den Inhalt beziehen. Eine bloße Rechtschreib-, Grammatik- oder Formatkontrolle genügt hierfür nicht. Für die Offenlegungspflicht kommt es daher auf die Art des KI-Einsatzes, den Zweck der Veröffentlichung sowie auf eine etwaige menschliche Überprüfung oder redaktionelle Kontrolle und die Übernahme redaktioneller Verantwortung an.

Muss ich auch KI-generierte Bilder in sozialen Medien kennzeichnen?

Eine sichtbare Offenlegung ist erforderlich, wenn das veröffentlichte Bild ein Deepfake ist; die technische Kennzeichnung liegt grundsätzlich beim Anbieter des KI-Systems.

Anbieter entsprechender KI-Systeme müssen grundsätzlich sicherstellen, dass die erzeugten Inhalte maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Der verwendete Veröffentlichungskanal, etwa eine Website oder ein soziales Netzwerk, ändert an dieser Einordnung grundsätzlich nichts.

Müssen wir vor dem 2. August 2026 erzeugte KI-Inhalte nachträglich kennzeichnen?

Für Inhalte, die bereits vor dem 2. August 2026 erzeugt wurden, besteht grundsätzlich keine Pflicht zur nachträglichen Kennzeichnung. Die EU-Kommission empfiehlt eine freiwillige nachträgliche Kennzeichnung, soweit diese praktisch möglich ist.

Gilt die Kennzeichnungspflicht auch für kleine und mittlere Unternehmen?

Ja. Art. 50 AI Act sieht grundsätzlich keine Ausnahme von den Transparenzpflichten aufgrund der Unternehmensgröße vor. Besonderheiten für kleine und mittlere Unternehmen bestehen insbesondere bei der Bemessung der möglichen Geldbußen.

Was hat der Digital Omnibus an der KI-Kennzeichnungspflicht geändert?

Die Transparenzpflichten des Art. 50 gelten grundsätzlich seit dem 2. August 2026. Die durch den Digital Omnibus on AI geänderten Übergangsregelungen betreffen vor allem Hochrisiko-KI-Systeme: Deren Anforderungen gelten nach Anhang III grundsätzlich ab dem 2. Dezember 2027 und nach Anhang I ab dem 2. August 2028.

Für die technische Kennzeichnung von KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt eine Übergangsfrist bis zum 2. Dezember 2026.

Reicht ein allgemeiner Hinweis im Impressum oder in den AGB als Kennzeichnung?

Ein allgemeiner Hinweis im Impressum oder in den AGB genügt regelmäßig nicht. Die Information muss klar und unterscheidbar spätestens bei der ersten Interaktion oder Wahrnehmung bereitgestellt werden und dem jeweiligen KI-Einsatz beziehungsweise Inhalt hinreichend zugeordnet sein.