Kennzeichnungspflicht für KI-generierte Inhalte – Auswirkungen für Werbung und Marketing

Die Nutzung von KI ist längst im Alltag von Werbetreibenden und Marketingagenturen angekommen. Inhalte lassen sich damit schneller und kosteneffizienter denn je erstellen. Mit den neuen Möglichkeiten gehen jedoch auch steigende rechtliche Anforderungen einher.

Während manche der Regelungen des AI Acts bzw. der europäischen KI-Verordnung (Verordnung (EU) 2024/1689, „KI-VO“) infolge des sog. KI-Omnibus später als ursprünglich geplant in Kraft treten, ist dies für die Kennzeichnungspflicht aus Art. 50 Abs. 4 KI-VO offenbar nicht der Fall, sodass diese bereits ab dem 2. August 2026 greift. Gerade auch in den Bereichen Werbung und Marketing ist in diesem Zusammenhang insbesondere die Pflicht zur Kennzeichnung bestimmter KI-generierter Inhalte wie Bilder und Videos von erheblicher Bedeutung.

Der vorliegende Beitrag beleuchtet, welche konkreten Anforderungen sich daraus ergeben und welche praktischen Auswirkungen die Kennzeichnungspflicht – insbesondere für den Bereich Werbung und Marketing – haben wird.

I. Wesentliche gesetzliche Regelungen

Zentrale Norm für die Kennzeichnungspflicht ist Art. 50 Abs. 4 KI‑VO. Danach sind Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die als Deepfakes einzuordnen sind, verpflichtet offenzulegen, dass diese Inhalte künstlich erzeugt oder verändert wurden.

Eine entsprechende Pflicht gilt auch für Betreiber von KI‑Systemen, die Texte erzeugen oder manipulieren, sofern diese Texte veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Auch hier ist kenntlich zu machen, dass es sich um künstlich erzeugte oder veränderte Inhalte handelt.

Art. 50 Abs. 4 KI‑VO enthält damit zwei Regelungskomplexe, die voneinander zu unterscheiden sind: Zum einen die Kennzeichnungspflichten für Bild-, Ton- und Videoinhalte, zum anderen spezifische Vorgaben für Texte.

1. Bilder und Videos

Die praxisrelevanteste Pflicht für Unternehmen im Bereich Werbung und Marketing betrifft die Kennzeichnung KI-generierter oder KI‑manipulierter Bilder und Videos, sofern diese als Deepfakes einzustufen sind. Gerade in diesem Bereich sieht die KI‑Verordnung besonders weitgehende Transparenzpflichten vor.

a) Was gilt als Deepfake?

Der Begriff des Deepfakes wird in Art. 3 Nr. 60 KI VO definiert als KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Im Hinblick auf die Auslegung dieser Definition bestehen derzeit noch erhebliche Rechtsunsicherheiten, die voraussichtlich erst durch die zukünftige Rechtsprechung geklärt werden. Dem Wortlaut der Norm nach liegt nahe, dass der Inhalt Ähnlichkeit mit einer real existierenden, konkret individualisierten Person bzw. real existierenden Gegenständen, Orten, etc. haben muss. 

Die derzeit wohl überwiegende Auffassung geht jedoch darüber hinaus: Danach kann bereits eine abstrakte Ähnlichkeit zu fiktiven Menschen oder etwa Objekten genügen, sofern der Inhalt als echt oder wahrheitsgemäß verstanden werden könnte, weil es ansonsten zu Schutzlücken kommen könnte. In diesem Zusammenhang ist insbesondere auf einen kürzlich von der Europäischen Kommission erschienenen Entwurf der Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme hinzuweisen, in dem es heißt, dass es ausreicht, dass etwa simulierte Personen, Objekte, Orte oder Ereignisse jemandem oder etwas ähneln, das in der Realität existieren kann oder hätte existieren können, um als Deepfake zu gelten. 

Nicht erfasst sind hingegen offensichtlich unrealistische Darstellungen, die etwa Naturgesetzen oder physikalischen Grundsätzen widersprechen oder Lebensformen darstellen, die in der Biologie nicht allgemein anerkannt sind. Hierzu zählen beispielsweise Darstellungen von Menschen, die ohne technische Hilfsmittel fliegen oder Drachen die Autos fahren. Als plakatives Beispiel, was kein Deepfake darstellen soll und mithin nicht der Kennzeichnungspflicht unterliegt, nennen die Leitlinien etwa ein KI-generiertes Video einer mit menschlicher Stimme sprechenden Maus.

Dies bedeutet in der Konsequenz, dass letztlich jede fotorealistische Abbildung menschlicher Figuren oder realistisch wirkender Gegenstände, Orte und Situationen einen Deepfake darstellen kann.

b) Einordnung KI-unterstützter Standardbearbeitungen

Umstritten ist, ob bereits KI gestützte Bearbeitungen bestehender Inhalte – etwa Anpassungen von Hintergrunddetails, Beleuchtung, Audio Parametern, Farben oder die Rauschunterdrückung – dazu führen, dass ein Inhalt als Deepfake einzuordnen und damit kennzeichnungspflichtig ist.

Nach derzeit vielfach vertretener Auffassung ist dies nicht der Fall. Dies gilt insbesondere dann, wenn die jeweilige Bearbeitung für die Beurteilung der Authentizität oder Wahrhaftigkeit des Inhalts nur eine untergeordnete Rolle spielt. Maßgeblich ist insoweit aber stets eine Einzelfallbetrachtung.

Auch der bereits erwähnte Entwurf der Leitlinien der Europäischen Kommission differenziert in diesem Punkt: Danach kann sich eine substanzielle, KI gestützte Veränderung von Hintergrunddetails in journalistischen Bildern beispielsweise nachteilig auf die Authentizität und Wahrhaftigkeit des Inhalts auswirken. Demgegenüber haben KI gestützte Maßnahmen wie Farbkorrekturen Hintergrunderweiterungen bestehender Inhalte oder die bloße Skalierung von Bildern – etwa in der Produktwerbung – regelmäßig nur einen geringen Einfluss auf die Wahrnehmung von Authentizität und Wahrheitsgehalt.

Eine verbindliche Klärung dieser Abgrenzungsfragen steht jedoch noch aus und dürfte letztlich der Rechtsprechung vorbehalten bleiben.

c) Keine privilegierte Behandlung kommerzieller Werbung 

Art. 50 Abs. 4 Satz 3 KI VO sieht zwar eine abgeschwächte Transparenzpflicht für Deepfakes vor, die Teil offensichtlich künstlerischer, kreativer, satirischer, fiktionaler oder vergleichbarer Werke oder Programme sind.

Nach dem vorgenannten Entwurf der Leitlinien der Europäischen Kommission greift diese Ausnahme jedoch nicht für klassische Produktwerbung. Unternehmen können sich daher grundsätzlich nicht mit Erfolg darauf berufen, ihre Werbung sei lediglich kreativ oder künstlerisch gestaltet, um lediglich einer abgeschwächten Transparenzpflicht nach Art. 50 Abs. 4 Satz 3 KI VO zu unterliegen.

Auch die Zielsetzung der KI VO, Täuschungen zu vermeiden und ein hohes Maß an Transparenz zu gewährleisten, spricht für eine eher weite Auslegung der Kennzeichnungspflichten.

d) AI Models

Besonders sensibel ist der Einsatz sogenannter „AI Models“, also KI‑generierter Persönlichkeiten, die in sozialen Medien als Influencer und/oder im Rahmen von Werbekampagnen wie reale Menschen auftreten.

Da sich solche AI Models bewusst menschenähnlich inszenieren und teilweise sogar den Eindruck eines eigenen Privatlebens vermitteln, spricht viel dafür, dass es sich um kennzeichnungspflichtige Deepfakes handelt.

Werbemaßnahmen unter Einsatz von AI Models werden daher ab Geltung der Kennzeichnungspflicht grundsätzlich einen entsprechenden Hinweis auf ihren KI‑basierten Ursprung enthalten müssen.

2. Texte

Für KI generierte Texte ist die Rechtslage deutlich weniger strikt. Art. 50 Abs. 4 Unterabs. 2 KI VO erfasst ausschließlich Texte, die dazu bestimmt sind, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Klassische Werbetexte, Produktbeschreibungen, Social Media Beiträge oder Newsletter fallen daher regelmäßig nicht in den Anwendungsbereich der Vorschrift.

Hinzu kommt eine wesentliche Ausnahme: Eine Kennzeichnung ist nicht erforderlich, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person hierfür die Verantwortung übernimmt. Gerade im Marketing ist dies typischerweise gegeben. Werden KI Texte geprüft, überarbeitet und anschließend freigegeben, besteht daher in der Regel keine Kennzeichnungspflicht.

Unabhängig davon empfiehlt es sich, klare interne Prozesse festzulegen und die redaktionelle Verantwortung transparent zu dokumentieren. Ungeprüfte KI-Rohfassungen können nicht nur rechtliche Risiken begründen, sondern auch erhebliche Reputationsschäden nach sich ziehen.

II. Wen trifft die Kennzeichnungspflicht?

Die Kennzeichnungspflicht aus Art. 50 Abs. 4 KI-VO richtet sich ihrem Wortlaut nach ausschließlich an sog. „Betreiber“ eines KI-Systems. Betreiber ist nach Art. 3 Nr. 4 KI VO jede natürliche oder juristische Person, die ein KI System in eigener Verantwortung nutzt, sofern dies nicht rein privat geschieht. Betreiber sind daher im Wesentlichen alle, die eigenständig generative KI zu einem kommerziellen Zweck einsetzen. 

Fraglich ist jedoch, wie Fälle zu beurteilen sind, in denen ein werbendes Unternehmen die KI nicht selbst einsetzt, sondern etwa lediglich den von einer beauftragten Werbeagentur erstellten KI-generierten Output verwendet.

Der Begriff des Betreibers ist grundsätzlich von solchen Endnutzern abzugrenzen, die lediglich den KI-Output verwenden, ohne eigenverantwortlichen Einfluss auf das KI-System auszuüben. In der juristischen Literatur wird allerdings vertreten, dass eine organisatorische Begründung der Betreibereigenschaft denkbar ist, beispielsweise wenn eine Person bereit ist, die Verantwortung für die Richtigkeit oder Vollständigkeit des KI-Outputs zu übernehmen und Dritte aufgrund der Umstände des Einzelfalls (z. B. weil sich die Person den KI-Output zu eigen macht) auf eine solche Verantwortung vertrauen dürfen. 

Legt man diese Auffassung sowie den Schutzzweck der KI-VO zugrunde, sprechen durchaus gewichtige Argumente dafür, dass auch das werbende Unternehmen der Kennzeichnungspflicht unterliegt, selbst wenn es die KI-generierten oder -manipulierten Inhalte nicht selbst erstellt hat. Wer Marketinginhalte durch externe Agenturen erstellen lässt, kann sich mithin eigenen Kennzeichnungspflichten ausgesetzt sehen, zumal diese andernfalls durch ein bloßes Outsourcing von Werbemaßnahmen leicht umgangen werden könnten. Auch in dieser Hinsicht bleibt daher abzuwarten, inwieweit die Gerichte den Betreiberbegriff in diesem Zusammenhang konkretisieren und insbesondere die Reichweite einer solchen organisatorisch vermittelten Verantwortlichkeit bestimmen werden.

III. Ausgestaltung der Kennzeichnung

Die Kennzeichnung muss nach Art. 50 Abs. 5 KI VO „in klarer und eindeutiger Weise“ erfolgen und den geltenden Barrierefreiheitsanforderungen entsprechen. Ein bestimmtes Format schreibt das Gesetz nicht vor. Je nach Medium, Zielgruppe und Kontext kommen textliche Hinweise wie etwa „KI-generiert“ oder „Erstellt mit KI“, visuelle Kennzeichnungen in Form von Piktogrammen oder auch  akustische Hinweise bei Audioinhalten in Betracht. 

Wichtig ist dabei: Wer sich an den deutschen Markt richtet, sollte vorsorglich eine deutschsprachige Kennzeichnung verwenden. Rein englischsprachige Hinweise oder Hashtags wie #AIgenerated sind insbesondere vor dem Hintergrund der Rechtsprechung zur Kennzeichnung von Influencer-Werbung mit einem erhöhten Risiko verbunden.

IV. Mögliche Konsequenzen bei Verstößen

1. Bußgelder nach der KI Verordnung

Verstöße gegen die Kennzeichnungspflichten können mit erheblichen Geldbußen geahndet werden. Art. 99 Abs. 4 lit. g KI VO sieht Bußgelder von bis zu EUR 15 Millionen oder bis zu 3 % des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen (KMU) gelten zwar reduzierte Höchstgrenzen, doch auch diese können für kleinere Unternehmen existenzbedrohend sein. 

2. Wettbewerbsrechtliche Risiken nach dem UWG

Besonders praxisrelevant ist die wettbewerbsrechtliche Dimension. Die Kennzeichnungspflichten aus Art. 50 KI VO dürften als Marktverhaltensregeln im Sinne von § 3a des Gesetzes gegen den unlauteren Wettbewerb (UWG) einzuordnen sein. Dies bedeutet, dass ein Verstoß gegen die Kennzeichnungspflicht zugleich einen Wettbewerbsverstoß darstellen kann.

Die Folge: Nicht nur Aufsichtsbehörden, sondern auch Mitbewerber, Wettbewerbsverbände und Verbraucherschutzorganisationen können Verstöße verfolgen. Abmahnungen, Unterlassungsansprüche und gegebenenfalls Schadensersatzforderungen sind daher realistische Szenarien. 

V. Fazit und Handlungsempfehlung

Die Kennzeichnungspflichten der KI-VO werden den Einsatz von KI im Marketing voraussichtlich spürbare Auswirkungen haben. Insbesondere im Bereich von Bildern und Videos ist die praktische Relevanz hoch, da der Deepfake-Begriff weit gefasst ist und nach derzeitiger Tendenz eher großzügig ausgelegt wird. Bei rein werblichen Texten fällt die Betroffenheit demgegenüber häufig geringer aus, da sie vielfach nicht in den Anwendungsbereich fallen oder die Ausnahme der redaktionellen Kontrolle greift.

Unternehmen sollten sich schnellstmöglich auf die neuen Anforderungen einstellen, zumal die Regelungen ab dem 2. August 2026 gelten und unmittelbar auch laufende Marketingmaßnahmen betreffen werden. In diesem Zusammenhang empfiehlt sich insbesondere die Etablierung klarer interner Leitlinien für den Einsatz von KI im Marketing.

Für die konkrete Ausgestaltung gilt: Im Zweifel ist ein transparenter Hinweis (z. B. „KI-generiert“) regelmäßig der rechtssicherere Weg. Die Kennzeichnung sollte dabei klar, gut wahrnehmbar und – bei Ausrichtung auf den deutschen Markt – grundsätzlich in deutscher Sprache erfolgen.

Dieser Beitrag wurde mit Unterstützung unserer wissenschaftlichen Mitarbeiterin Franziska Klinzing erstellt.