- 1. Was ist die KI-Kennzeichnungspflicht?
- 2. Für welche Inhalte gilt die Kennzeichnungspflicht?
- 3. Ab wann gilt die KI-Kennzeichnungspflicht?
- 4. Wer muss KI-Inhalte kennzeichnen? Anbieter und Betreiber
- 5. Wie müssen KI-Inhalte gekennzeichnet werden?
- 6. Was droht bei Verstoß gegen die Kennzeichnungspflicht?
- 7. Häufig gestellte Fragen zur KI-Kennzeichnungspflicht (FAQ)
Was ist die KI-Kennzeichnungspflicht?
Die KI-Kennzeichnungspflicht verpflichtet dazu, künstlich erzeugte oder manipulierte Inhalte als solche erkennbar zu machen. Grundlage ist die KI-Verordnung der Europäischen Union, offiziell die Verordnung (EU) 2024/1689, häufig auch als AI Act bezeichnet. Sie gilt als europäische Gesetzgebung unmittelbar in allen Mitgliedstaaten, ohne dass eine eigene Gesetzgebung in Deutschland braucht.
KI-Verordnung: EU diskutiert Änderungen
Die Rechtslage ist an einigen Stellen noch in Bewegung: Der europäische Gesetzgeber diskutiert immer wieder Anpassungen seiner KI-Gesetzgebung. Das ändert nichts daran, dass Grundpflichten, wie die Kennzeichnungspflicht bestehen und eingehalten werden müssen.
Warum gibt es die Kennzeichnungspflicht?
Die zentrale Norm für die Kennzeichnung ist Art. 50 KI-VO. Sie bündelt die sogenannten Transparenzpflichten. Der Zweck der Regelung ist einfach: Menschen sollen erkennen können, wann sie mit einer Maschine kommunizieren oder wann ein Bild, ein Video oder ein Text nicht von einem Menschen, sondern von einer KI erzeugt wurde.
Dahinter steht der Schutz vor Täuschung. Wer nicht weiß, dass ein Testimonial ein Deepfake ist oder dass ein vermeintlicher Kundenservice-Mitarbeiter in Wahrheit ein Bot ist, kann Inhalte nicht richtig einordnen.
Die Transparenzpflichten sind kein Selbstzweck. Sie sollen das Vertrauen in digitale Kommunikation erhalten, gerade weil KI-Inhalte inzwischen kaum noch von echten Aufnahmen zu unterscheiden sind.
Was zählt als KI-Inhalt?
Nicht jede technische Bearbeitung löst eine Kennzeichnungspflicht aus. Die Verordnung unterscheidet im Kern drei Konstellationen:
- Ein Deepfake ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der echten Personen, Gegenständen oder Ereignissen wirklichkeitsgetreu ähnelt und fälschlich als authentisch erscheinen könnte.
- Ein synthetischer Inhalt ist jeder von einer KI generierter oder wesentlich veränderter Inhalt, unabhängig davon, ob er täuschend echt wirkt.
- Eine bloße Standardbearbeitung, etwa das Zuschneiden eines Fotos oder eine Farbkorrektur fällt dagegen nicht unter die Pflicht, solange sie die Aussage des Inhalts nicht wesentlich verändert.
Für welche Inhalte gilt die Kennzeichnungspflicht?
Die Kennzeichnungspflicht nach der KI-Verordnung bezieht sich vor allem auf die erste Kategorie der Deepfakes. Bild-, Ton- oder Videoinhalte, die den Eindruck erwecken, reale Personen oder Ereignisse authentisch wiederzugeben, müssen als künstlich erzeugt oder verändert kenntlich gemacht werden.
Als Merksatz gilt: Je stärker eine KI den Inhalt selbst erschafft oder inhaltlich umformt, desto eher greift die Kennzeichnungspflicht. Wer nur Werkzeuge zur Optimierung nutzt, muss die KI-Kennzeichnungspflicht regelmäßig nicht beachten.
Das Thema Deepfakes ist umfangreich, weitere Einordnungen zeigen wir am Beispiel des Umgangs mit gefälschten Deepfakes und dem speziellen Fall der Deepfake-Pornos.
Darüber hinaus enthält Art. 50 Abs. 4 eine weitere Transparenzpflicht für KI-generierte oder KI-manipulierte Texte. Diese greift allerdings nur, wenn die Inhalte veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. In diesem Fall muss offengelegt werden, dass die Texte mithilfe künstlicher Intelligenz erstellt oder verändert wurden, sofern keine der gesetzlichen Ausnahmen – insbesondere für redaktionell überprüfte Inhalte – eingreift.
Art. 50 Verordnung (EU) 2024/1689 (KI-VO)
Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, legen offen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. […]
Betreiber eines KI‑Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. 5Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
Die Pflicht knüpft somit an unterschiedliche Inhaltsarten an, mit teils abweichenden Voraussetzungen. Diese Unterschiede entscheiden darüber, ob und wie Sie kennzeichnen müssen.
Bilder und Produktfotos
KI-generierte Bilder, die als Deepfake einzuordnen sind, muss der Betreiber offenlegen. Auch synthetische Produktfotos, die reale Waren täuschend echt darstellen, geraten schnell in den Anwendungsbereich, insbesondere wenn sie einen falschen Eindruck vom tatsächlichen Produkt erwecken. Wie riskant KI-Produktfotos im Wettbewerb sein können, zeigen wir im Beitrag zur Kennzeichnung von KI-Produktfotos.
Videos, Audio und Deepfake-Werbung
Für KI-erzeugte Videos und Audioinhalte gilt dasselbe Prinzip. Besonders sensibel ist Deepfake-Werbung mit synthetischen Testimonials oder geklonten Stimmen bekannter Personen. Hier kommen neben der Kennzeichnungspflicht regelmäßig persönlichkeitsrechtliche Ansprüche hinzu, etwa das Recht an der eigenen Stimme bei Audio-Deepfakes.
KI-Texte
Bei Texten ist die Pflicht enger gefasst, als viele annehmen. Nach Art. 50 Abs. 4 müssen Betreiber KI-generierte oder manipulierte Texte nur dann als KI-Inhalt kennzeichnen, wenn diese die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Ein wichtiger Zusatz: Die Pflicht entfällt, wenn der Inhalt einer menschlichen redaktionellen Kontrolle unterliegt und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Ein automatisch generierter, aber redaktionell geprüfter Fachbeitrag fällt daher regelmäßig nicht unter die Pflicht. Details erläutern wir im Satellitenbeitrag „KI-Texte kennzeichnen“.
Ab wann gilt die KI-Kennzeichnungspflicht?
Die KI-VO tritt gestaffelt in Kraft. Einzelne Vorschriften gelten schon seit 2024 und 2025, die Kennzeichnungspflicht aus Art. 50 greift erst später. Für die Praxis sind drei Ebenen zu unterscheiden:
Betreiberpflichten ab dem 2. August 2026
Die Kennzeichnungspflichten für Betreiber nach Art. 50 gelten ab dem 2. August 2026. Das betrifft insbesondere die Offenlegung von Deepfakes, die Kennzeichnung von KI-generierten Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, sowie die Pflicht, Nutzer über eine Interaktion mit einem KI-System zu informieren. Wer als Unternehmen oder Agentur KI produktiv einsetzt, muss ab diesem Datum die passenden Hinweise ausspielen.
Digital Omnibus: geplante Verschiebung
Unter dem Stichwort Digital Omnibus diskutiert die EU-Kommission ein Paket, das unter anderem Fristen für Altsysteme verschieben könnte. Das ist bislang ein Entwurf und noch nicht geltendes Recht. Sie sollten Ihre Compliance daher nicht auf eine mögliche Verschiebung stützen, sondern von den aktuell verbindlichen Terminen ausgehen und Erleichterungen nur berücksichtigen, wenn sie tatsächlich in Kraft treten.
Solange die Rechtslage in Bewegung ist, ist die frühzeitige Kennzeichnung der sichere Weg. Wer KI-Inhalte schon jetzt transparent macht, riskiert nichts und muss später nicht kurzfristig ganze Kampagnen anpassen. Eine Kennzeichnung zu viel schadet rechtlich nicht, eine Kennzeichnung zu wenig kann teuer werden.
Wer muss KI-Inhalte kennzeichnen? Anbieter und Betreiber
Die KI-VO unterscheidet die zwei zentrale Rollen des Anbieters und des Betreibers, an die sie unterschiedliche Pflichten knüpft. Wer seine Rolle kennt, weiß, welche Pflicht ihn trifft. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System unter eigener Verantwortung im beruflichen Kontext einsetzt.
Die KI-Kennzeichnungspflicht gilt für Betreiber, das heißt für Unternehmen, Agenturen, Verlage und Selbstständigen, die KI-Werkzeuge nutzen, um Inhalte zu erstellen.
Wer KI ausschließlich privat nutzt, ohne beruflichen oder wirtschaftlichen Zusammenhang, ist kein Betreiber im Sinne der Verordnung. Das private Erstellen eines KI-Bildes für den Familien-Chat löst keine Kennzeichnungspflicht nach der KI-VO aus. Sobald jedoch ein geschäftlicher Bezug besteht, etwa auf einem gewerblichen Social-Media-Kanal, endet die Privatnutzung.
Sie sind unsicher, ob und wie Sie KI-Inhalte in Ihrem Unternehmen kennzeichnen müssen? Wir prüfen Ihre konkrete Rolle nach der KI-VO und Ihre Kennzeichnungspflichten und zeigen Ihnen, wo Handlungsbedarf besteht.
Wie müssen KI-Inhalte gekennzeichnet werden?
Die Verordnung schreibt keine starre Formulierung vor, stellt aber Anforderungen an die Art und Weise der Kennzeichnung. Sie muss den Zweck erfüllen, dass Menschen den KI-Ursprung tatsächlich erkennen.
Die Kennzeichnung muss klar, eindeutig und wahrnehmbar sein. Art. 50 Abs. 5 verlangt, dass die Information spätestens zum Zeitpunkt der ersten Interaktion oder Wahrnehmung bereitgestellt wird, und zwar barrierefrei. Ein Hinweis, der in winziger Schrift im Impressum versteckt ist oder erst nach langem Scrollen erscheint, genügt nicht. Der Hinweis muss dort auftauchen, wo der Nutzer dem Inhalt begegnet.
Für den deutschen Markt spricht viel dafür, deutschsprachige Hinweise zu verwenden, damit die Adressaten die Kennzeichnung verstehen. Das lässt sich mit der Rechtsprechung der Oberlandesgerichte zur Werbekennzeichnung mit „#ad“ vergleichen: Auch dort verlangen Gerichte, dass der Hinweis für das angesprochene Publikum verständlich ist. Ein rein englischsprachiges Label kann im Einzelfall unzureichend sein.
Formulierungsbeispiele für zuläassige KI-Kennzeichnungen:
„Dieses Bild wurde mit KI erstellt. (Name des KI-Anbieters)“
„Die Bilder dieses Beitrags wurden mithilfe künstlicher Intelligenz erstellt.“
„Animiertes Video generiert mit (Name des KI-Anbieters).“
Platzieren Sie den Hinweis sichtbar am Inhalt selbst, nicht versteckt in Fußnoten oder im Impressum!
Plattformregeln können strenger sein!
Unabhängig von der KI-VO haben Plattformen wie Instagram, TikTok oder Google Ads eigene Kennzeichnungsvorgaben für KI-Inhalte. Diese können strenger oder detaillierter sein als die gesetzliche Pflicht. Wer dort veröffentlicht, muss beides einhalten, sonst drohen zusätzlich plattforminterne Sanktionen bis zur Sperrung.
Was droht bei Verstoß gegen die Kennzeichnungspflicht?
Ein Verstoß gegen die Kennzeichnungspflicht bleibt nicht folgenlos. Zu unterscheiden sind aufsichtsrechtliche Sanktionen und wettbewerbsrechtliche Ansprüche von Mitbewerbern und Verbänden.
Bußgelder nach Art. 99 KI-VO
Verstöße gegen die Transparenzpflichten sanktioniert die KI-VO mit erheblichen Bußgeldern. Für Verstöße gegen Art. 50 sieht Art. 99 einen Rahmen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Zuständig ist die jeweilige Marktüberwachungsbehörde. In Deutschland ist das die Bundesnetzagentur. Die tatsächliche Höhe richtet sich nach Schwere, Dauer und Vorsatz des Verstoßes sowie der Unternehmensgröße.
Wettbewerbsrechtliche Abmahnung
Neben der behördlichen Sanktion droht die wettbewerbsrechtliche Abmahnung durch Mitbewerber und klagebefugte Verbände. Die Kennzeichnungspflicht nach der KI-Verordnung kann als Marktverhaltensregel im Sinne des § 3a UWG eingeordnet werden, sodass ein Verstoß zugleich wettbewerbswidrig wäre. Unabhängig davon greift regelmäßig das Irreführungsrecht: Wer KI-Inhalte als authentisch ausgibt, handelt schnell irreführend nach § 5 UWG oder unterlässt eine wesentliche Information nach § 5a UWG. Das Abmahnrisiko ist hoch, weil eine fehlende Kennzeichnung für jeden Mitbewerber von außen erkennbar ist.
Die Einordnung der KI-Kennzeichnungspflicht als Marktverhaltensregel nach § 3a UWG ist noch nicht höchstrichterlich geklärt, das heißt es existiert dazu bislang keine gesicherte Rechtsprechung des Bundesgerichtshofs. Die rechtliche Bewertung von KI-Themen ist derzeit noch stark im Fluss – auf unserem Blog berichten wir immer über die neusten Entwicklungen.
KI-generierte Inhalte auf Social Media Plattformen
Werden KI-generierte Inhalte ohne Kennzeichnungen in Sozialen Netzwerken veröffentlicht, drohen Plattformsanktionen, wie dieLöschung von Inhalten oder die Sperrung von Konten. Das hängt von den individuellen Palttformregelungen ab.
Verletzt ein KI-Inhalt Persönlichkeitsrechte, etwa bei einem Deepfake einer realen Person, kommen zivilrechtliche Unterlassungs- und Schadensersatzansprüche hinzu. Wie Betroffene sich in solchen Fällen wehren, zeigt der Beitrag zum Vorgehen gegen Deepfakes.
Wenn Sie eine Abmahnung wegen fehlender KI-Kennzeichnung erhalten haben, sollten Sie nicht vorschnell eine Unterlassungserklärung unterschreiben. Umgekehrt können Sie als Mitbewerber gegen unlauteren Wettbewerb durch fehlende Kennzeichnung vorgehen. In beiden Konstellationen ist anwaltlicher Rat sinnvoll.
Schreiben Sie einen Kommentar