Wer kennzeichnen muss und welche Risiken drohen

Am 1. August 2024 ist die KI-VO der Europäischen Union formell in Kraft getreten. Allerdings folgte daraufhin eine lange Schonphase, da die Verordnung eine gestufte Anwendbarkeit vorsieht. Die ersten beiden Stufen sind bereits erreicht. Es folgt nun die dritte Stufe am 2. August 2026, mit der die relevanten Teile der Verordnung erstmals unmittelbar gelten werden. Die KI-VO hat zum Ziel den Einsatz von KI-Systemen zuverlässig, transparent und umfassend zu regulieren. Strukturell basiert die KI-VO auf einem risikobasierten Regulierungsansatz. Danach werden KI-Systeme abhängig von ihrem Gefährdungspotenzial unterschiedlichen Kategorien zugeordnet. Die Verordnung unterscheidet insbesondere zwischen verbotenen KI-Praktiken, Hochrisiko-KI-Systemen, KI-Systemen mit begrenztem Risiko sowie bestimmten KI Anwendungen, für die lediglich freiwillige Verhaltensstandards vorgesehen sind. Je höher das mit einem KI-System verbundene Risiko eingeschätzt wird, desto strenger fallen die regulatorischen Anforderungen aus.

Für die aktuell wohl relevanteste generative KI, die Bilder, Texte und Videos erstellt, werden ab dem 2. August 2026 eine Reihe Transparenzpflichten gelten, unter anderem wird es für Betreiber eines KI-Systems zu Kennzeichnungspflichten hinsichtlich KI-generierter Inhalte kommen. Gerade im Zusammenhang mit Deepfakes stellen sich derzeit zahlreiche rechtliche und praktische Fragen, die im Folgenden beleuchtet werden sollen.

I. Was sind Deepfakes?  

Zunächst stellt sich die grundlegende Frage, was unter einem „Deepfake“ im Sinne der KI-VO überhaupt zu verstehen ist. Die KI-VO definiert Deepfakes als mittels künstlicher Intelligenz erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten oder sonstigen Situationen ähneln und dadurch geeignet sind, insbesondere bei technischen Laien den Eindruck zu erwecken, es handele sich um authentische oder reale Darstellungen. Erfasst werden damit insbesondere Inhalte, die täuschend echt wirken und deshalb geeignet sind, über ihren künstlichen Ursprung hinwegzutäuschen. 

Auf den ersten Blick scheint damit die Definition vergleichsweise klar: Deepfakes sind KI-generierte Inhalte, die real wirken sollen. Bei näherer Betrachtung zeigt sich jedoch schnell, dass gerade die Abgrenzung zwischen bloß künstlich erzeugten Inhalten und tatsächlich kennzeichnungspflichtigen Deepfakes erhebliche Unsicherheiten aufwirft. Insbesondere ist derzeit noch etwas unklar, wie streng die Anforderungen an die „Ähnlichkeit“ mit realen Personen und Situationen tatsächlich zu verstehen sind. 

Zusätzliche Unsicherheit entsteht dadurch, dass sich bereits jetzt abzeichnet, dass die EU-Kommission den Begriff des Deepfakes eher weit auslegen könnte. Dies spricht dafür, dass nicht nur nahezu fotorealistische Inhalte erfasst sein könnten, sondern möglicherweise bereits solche Darstellungen, die lediglich gewisse realitätsnahe Elemente enthalten oder bei einzelnen Betrachtern einen authentischen Eindruck hervorrufen können. Die Grenze zwischen eindeutig künstlicher Fantasiedarstellung und kennzeichnungspflichtigen Deepfake verschwimmt dadurch zunehmend. 

Darüber hinaus könnten sich auch weitere Probleme in der praktischen Einordnung von Deepfakes stellen. Denn die Frage, ob eine Darstellung als Deepfake zu qualifizieren ist, dürfte sich nicht isoliert anhand des Bildinhalts beurteilen lassen. Vielmehr könnte auch der konkrete Nutzungskontext eine entscheidende Rolle spielen. Maßgeblich könnte insbesondere sein, zu welchem Zweck eine Darstellung verwendet wird und welche Erwartungen bei den angesprochenen Verkehrskreisen hervorgerufen werden. 

Dies wird insbesondere bei künstlerischen oder stilisierten Darstellungen deutlich. So könnte etwa eine KI-generierte Abbildung eines Ölgemäldes mit dem Portrait einer Frau auf den ersten Blick gerade keinen realitätsnahen Eindruck im Sinne eines echten Fotos vermitteln. Gegenüber einer fotografischen Darstellung wäre für viele Betrachter erkennbar, dass es sich um eine künstlich erzeugte oder zumindest künstlerisch verfremdete Darstellung handelt. Wird ein solches Bild jedoch von einem Anbieter von Ölgemälden oder Kunstdrucken zu Werbezwecken eingesetzt, verschiebt sich die Perspektive. Für technische und kunstbezogene Laien könnte in diesem Kontext durchaus der Eindruck entstehen, es handle sich um eine Abbildung eines tatsächlich existierenden Gemäldes oder um ein real geschaffenes Kunstwerk. Die künstliche Generierung der Darstellung würde dann aus Sicht des Verkehrs möglicherweise in den Hintergrund treten. 

Gerade dieser Perspektivwechsel verdeutlicht die erhebliche Rechtsunsicherheit bei der Auslegung des Deepfake-Begriffs.

II. Wen können die neuen Pflichten treffen? 

Für die Bestimmung von Art und Ausmaß der Transparenzpflichten wird es maßgeblich auf die Unterscheidung zwischen dem Anbieter und Betreiber eines KI-Systems ankommen.

Denn nach dem Verständnis der KI-VO ist zwischen den Anbietern eines KI-Systems und einem Betreiber zu unterscheiden. Von einem Anbieter ist auszugehen, wenn das Unternehmen an der Entwicklung eines KI-Systems auch aktiv beteiligt war oder ein KI-System in ein bereits bestehendes Programm integriert. Dagegen ist Betreiber im Sinne der KI-VO, wer ein KI-System für eigene Zwecke einsetzt, ohne dass dabei die KI weiterentwickelt wird oder als eigenes Produkt angeboten wird. Als Betreiber sind daher nicht nur etablierte Unternehmen einzustufen, sondern auch Einzelunternehmer, Influencer oder Kleinunternehmen können als Betreiber mit entsprechenden Pflichten gelten. Im rein privaten Kontext wird jedoch keine Stellung als Betreiber eingenommen. 

Hinsichtlich der Kennzeichnungspflichten sind primär die Betreiber betroffen, die nach Art. 50 Abs. 4 KI-VO hinsichtlich von KI-Systemen erstellten Deepfakes verpflichtet sind, offenzulegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

III. Abmahnrisiko: Was droht bei Nichteinhaltung der Kennzeichnungspflichten?

Während die KI-VO bereits selbst empfindliche Sanktionen für Verstöße gegen die Kennzeichnungspflichten vorsieht, denn nach Art. 99 Abs. 4 lit. g KI-VO drohen Bußgelder von bis zu 15 Mio. Euro oder bis zu 3 % des weltweiten Jahresumsatzes, dürfte insbesondere das wettbewerbsrechtliche Risiko für Betreiber erhebliche praktische Relevanz entfalten.

Von zentraler Bedeutung ist hierbei die wettbewerbsrechtliche Einordnung der Kennzeichnungspflichten aus Art. 50 KI-VO. Vieles spricht dafür, dass diese Vorschriften als Marktverhaltensregeln im Sinne von § 3a UWG zu qualifizieren sind. Nach § 3a UWG handelt unlauter, wer einer gesetzlichen Vorschrift zuwiderhandelt, die zumindest auch dazu bestimmt ist, im Interesse der Marktteilnehmer das Marktverhalten zu regeln und der Verstoß geeignet ist, die Interessen von Verbrauchern, sonstigen Marktteilnehmern oder Mitbewerbern spürbar zu beeinträchtigen. Maßgeblich ist damit nicht nur, ob eine Norm regulatorischen Charakter besitzt, sondern ob sie zugleich eine wettbewerbsbezogene Schutzfunktion entfaltet.

Gerade dies dürfte bei den Kennzeichnungspflichten des Art. 50 KI-VO der Fall sein. Die Vorschriften verfolgen ersichtlich das Ziel, Transparenz im Markt sicherzustellen und Verbraucher davor zu schützen, über die Herkunft oder Authentizität von Inhalten getäuscht zu werden. Nutzer sollen erkennen können, ob sie mit KI-generierten oder manipulierten Inhalten interagieren oder ob es sich um authentische menschliche Kommunikation beziehungsweise reale Bild-, Audio- oder Videoinhalte handelt. Damit bezweckt Art. 50 KI-VO nicht lediglich die abstrakte Regulierung von KI-Systemen, sondern konkret die Steuerung des Marktverhaltens von Unternehmen im Wettbewerb. Die Kennzeichnungspflichten beeinflussen unmittelbar die Art und Weise, wie Unternehmen ihre Produkte, Dienstleistungen und Kommunikationsmaßnahmen am Markt präsentieren dürfen.

Hinzu kommt, dass die Regelungen zugleich dem Schutz fairer Wettbewerbsbedingungen dienen. Unternehmen, die KI-generierte Inhalte ordnungsgemäß kennzeichnen, könnten im Wettbewerb gegenüber solchen Marktteilnehmern benachteiligt sein, die bewusst auf eine Kennzeichnung verzichten, um Inhalte authentischer, glaubwürdiger oder emotional wirkungsvoller erscheinen zu lassen. Gerade im Bereich von Werbung, Social-Media-Kommunikation und audiovisuellen Inhalten kann die fehlende Offenlegung KI-generierter Inhalte erhebliche Wettbewerbsvorteile verschaffen. Vor diesem Hintergrund liegt es nahe, Art. 50 KI-VO als Norm anzusehen, die nicht nur Individualinteressen schützt, sondern zugleich gleiche Wettbewerbsbedingungen gewährleisten soll.

Wird Art. 50 KI-VO dementsprechend als Marktverhaltensregel qualifiziert, hätte dies erhebliche praktische Konsequenzen. Verstöße gegen die Kennzeichnungspflichten könnten dann zugleich Wettbewerbsverstöße nach § 3a UWG darstellen und damit privatrechtlich durchgesetzt werden. Wettbewerbsrechtliche Ansprüche können dabei nicht nur von Aufsichtsbehörden und Verbraucherschutzverbänden, sondern insbesondere auch von Wettbewerbsverbänden sowie Mitbewerbern geltend gemacht werden. Gerade letzteres birgt ein erhebliches Eskalationspotenzial, da Verstöße gegen Kennzeichnungspflichten vergleichsweise leicht feststellbar und damit attraktiv für wettbewerbsrechtliche Maßnahmen sind. Denkbar wären insbesondere Unterlassungsansprüche, Abmahnungen sowie gerichtliche Eilverfahren.

Die Wettbewerbszentrale hat in ihrem Leitfaden aus Februar 2026 bereits ausdrücklich die Auffassung vertreten, dass Verstöße gegen die Kennzeichnungspflichten der KI-VO zugleich unlautere geschäftliche Handlungen im Sinne des UWG darstellen können. Zugleich weist sie auf das konkrete Risiko hin, dass Mitbewerber und Verbände Unterlassungsansprüche geltend machen werden, sofern durch den Einsatz nicht oder unzureichend gekennzeichneter KI-Inhalte der faire Wettbewerb beeinträchtigt wird.

Vor diesem Hintergrund besteht eine erhebliche Wahrscheinlichkeit, dass insbesondere nicht gekennzeichnete Deepfakes künftig verstärkt Gegenstand wettbewerbsrechtlicher Abmahnungen und gerichtlicher Auseinandersetzungen sein werden.