Künstliche Intelligenz: Diese Transparenzpflichten sind zu beachten

Mit der Verabschiedung der Verordnung (EU) 2024/1689 über Künstliche Intelligenz („KI-VO“) wurde ein europaweiter Rechtsrahmen für den Einsatz von KI-Systemen geschaffen. Die Verordnung ist bereits am 1. August 2024 in Kraft getreten. Erste Pflichten, wie etwa die Einführung von Maßnahmen zur Sicherstellung einer grundlegenden KI-Kompetenz im Unternehmen, sind daher schon umzusetzen (wir berichteten). Zahlreiche weitere Pflichten – insbesondere für Anbieter und Betreiber von KI-Systemen – müssen schrittweise bis August 2026 umgesetzt werden.

Zu den verpflichtenden Maßnahmen gehört auch die Einhaltung spezieller Transparenzpflichten im Umgang mit KI-generierten oder KI-manipulierten Inhalten. Der folgende Überblick stellt die Anforderungen des Art. 50 Abs. 4 KI-VO dar, die insbesondere für Unternehmen relevant sind, die KI-Inhalte öffentlich verbreiten.

I. Anwendungsbereich

Art. 50 Abs. 4 KI-VO regelt Transparenzanforderungen für bestimmte KI-Systeme, die synthetische Inhalte erstellen oder verändern. Der Anwendungsbereich umfasst zwei Hauptkategorien:

1. Deepfakes

Die sind zum einen sogenannte Deepfakes. Die KI-VO definiert einen Deepfakes als „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“ (Art. 3 Nr. 60 KI-VO).

Erfasst sind danach Inhalte, die den Anschein erwecken, ein Abbild der Realität zu sein. Nicht umfasst sind hingegen erkennbar fiktionale Darstellungen. Entscheidend ist dabei nicht, ob tatsächlich existierende Personen oder Ereignisse dargestellt werden, sondern ob der Inhalt insgesamt den Eindruck einer realen Darstellung erweckt. Maßgeblich ist, ob ein durchschnittlicher Betrachter die Echtheit des Inhalts annehmen würde. Schon geringfügige Manipulationen, die nicht unmittelbar erkennbar sind, können genügen, um den Charakter eines Deepfakes zu begründen.

Art. 50 Abs. 4 KI-VO unterscheidet nicht zwischen umfassender Generierung und bloßer Bearbeitung. Standardbearbeitungen wie Filteranpassungen lösen keine Transparenzpflicht aus, solange sie nicht die Authentizität des dargestellten Inhalts vortäuschen. Wird dagegen eine vermeintlich reale Situation künstlich geschaffen oder verändert, ist eine Offenlegung erforderlich.

2. Durch KI erzeugte oder manipulierte Textinhalte

Zum anderen von den Transparenzpflichten des Art. 50 Abs. 4 KI-VO betroffen sind durch KI erzeugt oder manipulierte Textinhalte. Ursprünglich war die Einbeziehung solcher Inhalte im Entwurf der Kommission nicht vorgesehen und wurde erst auf Initiative des Europäischen Parlaments aufgenommen. Was darauf schließen lässt, dass der Gesetzgeber KI-generierte Texte als weniger regulierungsbedürftig ansieht als Audio- oder visuelle Inhalte.

Die Verpflichtung zur Offenlegung erstreckt sich zudem nicht auf sämtliche Textinhalte, sondern nur auf solche, die veröffentlicht werden, „um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“ (Art. 50 Abs. 4 UAbs. 2 S. 1 KI-VO). Erfasst sind damit meinungsbildungsrelevante Inhalte politischer, gesellschaftlicher, wirtschaftlicher, kultureller oder wissenschaftlicher Natur – unabhängig davon, ob sie globale oder lediglich lokale bzw. gruppenspezifische Bedeutung haben.

II. Adressaten

Adressaten der Transparenzpflichten sind die sogenannten Betreiber von KI-Systemen. Hierzu zählen alle natürlichen oder juristischen Personen, die KI-Systeme in eigener Verantwortung verwenden, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet (Art. 3 Nr. 4 KI-VO). Bereits eine Veröffentlichung an eine breite oder unbestimmte Öffentlichkeit kann dabei zur Qualifikation als Betreiber führen.

Für Unternehmen, Marketingabteilungen oder Anbieter von E-Learning-Plattformen bedeutet dies, dass sie bei der Nutzung von KI-generierten Inhalten regelmäßig als Betreiber im Sinne der KI-VO einzustufen sind.

III. Umsetzung der Transparenzpflichten

Die Umsetzung der Transparenzpflichten nach Art. 50 Abs. 4 KI-VO erfordert von Betreibern offenzulegen, dass die betreffenden Inhalte künstlich erzeugt oder manipuliert wurden. Ein darüber hinausgehender Hinweis, etwa auf die Identität der verantwortlichen Person, ist nicht erforderlich. Ein entsprechender Vorschlag des Europäischen Parlaments zur Nennung des Erzeugers fand im Gesetzgebungsverfahren keine Berücksichtigung. Der Hinweis muss also lediglich deutlich machen, dass der jeweilige Inhalt nicht real, sondern technisch generiert oder verändert ist.

Die Offenlegung hat gemäß Art. 50 Abs. 5 KI-VO in klarer und eindeutiger Weise zu erfolgen und muss spätestens zum Zeitpunkt der ersten Interaktion bereitgestellt werden. Bei audiovisuellen Inhalten kann dies z.B. durch eine direkte Integration des Hinweises in das Bild- oder Tonmaterial geschehen; bei längeren Inhalten kann eine Wiederholung notwendig sein, um auch weniger medienerfahrene Nutzer zu erreichen. Für textbasierte Inhalte reicht ein gut sichtbarer und verständlicher Hinweis im unmittelbaren Umfeld der Veröffentlichung.

Die Pflicht zur Offenlegung ist allerdings nicht ausnahmslos. So entfällt sie insbesondere in Fällen, in denen die Nutzung der Inhalte zur Aufdeckung, Verhütung oder Verfolgung von Straftaten gesetzlich zulässig ist. Eine weitere Einschränkung gilt für Deepfakes, die Teil eines offensichtlich künstlerischen, satirischen oder fiktionalen Werks sind. In diesen Fällen besteht zwar grundsätzlich eine Transparenzpflicht, diese darf jedoch die Wahrnehmung oder den künstlerischen Ausdruck des Werks nicht unangemessen beeinträchtigen. Es genügt etwa, einen entsprechenden Hinweis zu Beginn oder am Ende eines Videos einzublenden, sofern eine durchgehende Kennzeichnung den kreativen Gesamteindruck stören würde.

Für Textinhalte sieht Art. 50 Abs. 4 UAbs. 2 zudem eine Ausnahme vor, wenn die Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und zugleich eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Diese beiden Voraussetzungen sind nach dem Schutzzweck der Vorschrift kumulativ zu verstehen. Die Ausnahme soll insbesondere solche Fälle erfassen, in denen KI-generierte Texte durch Redaktionen geprüft, eingeordnet und verantwortet werden – etwa im journalistischen oder unternehmensinternen Kontext. In diesen Fällen entfällt die Kennzeichnungspflicht, da durch den menschlichen Eingriff das Risiko einer unbeaufsichtigten Verbreitung irreführender Inhalte wesentlich reduziert ist.

IV. Sanktionen

Verstöße gegen die Transparenzpflichten nach Art. 50 KI-VO können mit erheblichen Geldbußen geahndet werden. Nach Art. 99 Abs. 4 KI-VO drohen Geldstrafen von bis zu 15 Mio. EUR oder – bei Unternehmen – bis zu 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die Sanktionierung erfasst sowohl die fehlende als auch die unzureichende Kennzeichnung KI-generierter Inhalte.

Neben finanziellen Risiken sind auch mögliche Beschwerden bei Aufsichtsbehörden sowie Reputationsschäden durch öffentlich bekannt gewordene Verstöße zu berücksichtigen.

V. Umsetzungsschritte im Marketing

Die Einhaltung der Transparenzpflichten nach Art. 50 Abs. 4 KI-VO erfordert eine strukturierte Vorgehensweise. Marketingabteilungen sind gut beraten, frühzeitig Prozesse zu etablieren, um KI-generierte Inhalte rechtssicher zu kennzeichnen oder gegebenenfalls von der Kennzeichnungspflicht auszunehmen.

Die folgenden Umsetzungsschritte bieten eine Orientierung:

• Bestandsaufnahme: Unternehmen sollten erfassen, ob und in welchem Umfang in der Marketingkommunikation KI-gestützte Tools zur Erstellung oder Bearbeitung von Text-, Bild-, Ton- oder Videoinhalten eingesetzt werden.
• Relevanzprüfung: Es sollte geprüft werden, ob die betroffenen Inhalte unter den Anwendungsbereich des Art. 50 Abs. 4 KI-VO fallen – insbesondere, ob sie den Eindruck einer realen Darstellung erwecken oder meinungsbildende Informationen zu öffentlichen Themen vermitteln.
• Prüfung auf Ausnahmen: Unternehmen sollten klären, ob eine redaktionelle Kontrolle erfolgt ist und ob eine natürliche oder juristische Person die inhaltliche Verantwortung übernimmt. In diesen Fällen kann die Kennzeichnungspflicht entfallen. Gleiches gilt für künstlerische, satirische oder fiktionale Werke, sofern eine angemessene Offenlegung erfolgt.
• Kennzeichnung: Falls keine Ausnahme greift, ist ein klarer und für alle Nutzer verständlicher Hinweis anzubringen. Die Kennzeichnung sollte unmittelbar am jeweiligen Inhalt erfolgen und – bei längeren Formaten – gegebenenfalls wiederholt werden.
• Standardisierung: Unternehmen sollten standardisierte Hinweisformulierungen entwickeln, die konsistent verwendet werden können. Ein Beispiel wäre: „Dieser Beitrag wurde ganz oder teilweise mit Hilfe Künstlicher Intelligenz erstellt.“
• Dokumentation und Schulung: Die eingesetzten Verfahren und Zuständigkeiten sollten intern dokumentiert und Mitarbeitende gezielt geschult werden, insbesondere in Bezug auf die Abgrenzung zwischen kennzeichnungspflichtigen und ausgenommenen Inhalten.