Einsatz künstlicher Intelligenz – Was ist aktuell rechtlich zu beachten?

Mit dem rasanten Fortschritt künstlicher Intelligenz nimmt auch die regulatorische Dynamik weiter zu. Noch bevor die zentralen Pflichten der europäischen KI-Verordnung (KI-VO) für Hochrisiko-KI-Systeme ab August 2026 greifen sollen, wird in Brüssel bereits über eine Verschiebung der Fristen diskutiert. Gleichzeitig schaffen erste Urteile deutscher Gerichte zum Urheberrecht an KI-generierten Inhalten Fakten, die für die unternehmerische Praxis unmittelbar relevant sind. In Deutschland steht mit dem KI-Marktüberwachungs- und Innovationsgesetz (KI-MIG) der institutionelle Rahmen für die KI-Aufsicht zur Debatte, und auch außerhalb Europas – etwa in den USA mit dem Colorado AI Act – entstehen eigene Regelungsansätze. Für Unternehmen stellt sich damit zunehmend die Frage, welche rechtlichen Entwicklungen aktuell besonders relevant sind und welche Anforderungen sich daraus bereits heute ableiten lassen. Der folgende Überblick beleuchtet zentrale regulatorische und rechtsprechungsbezogene Entwicklungen im KI-Recht und ordnet ein, worauf Unternehmen sich einstellen sollten.

I. Digitaler Omnibus: Neue Fristen für die KI-VO

Die europäische KI-Verordnung (KI-VO) sieht derzeit vor, dass zentrale Anforderungen für Hochrisiko-KI-Systeme ab dem 2. August 2026 anwendbar werden. Maßgeblich sind insbesondere die Abschnitte 1 bis 3 des Kapitels III der Verordnung, die die Einstufung von KI-Systemen als Hochrisiko-KI, die technischen Anforderungen sowie die Pflichten von Anbietern und Betreibern festlegen. Gerade diese Vorschriften sind für viele Unternehmen von praktischer Bedeutung, etwa wenn KI-Systeme im Personalwesen, bei Kreditentscheidungen oder in sicherheitsrelevanten Produkten eingesetzt werden.

Vor diesem Hintergrund wird auf europäischer Ebene derzeit im Rahmen des sogenannten Digital-Omnibus-Pakets über Anpassungen der KI-VO beraten. Neben einem allgemeinen Digital Omnibus (wir berichteten in Datenschutzupdate Nr. 221, Nr. 223 und Nr. 236) enthält insbesondere der Digital-Omnibus zur KI Änderungsvorschläge speziell zur KI-Verordnung. Zentrale Überlegung ist es, die Anwendung der Vorschriften für Hochrisiko-KI zeitlich nach hinten zu verschieben.

Hintergrund der Diskussion ist vor allem die derzeit noch begrenzte praktische Umsetzbarkeit der Vorgaben. Viele der Anforderungen der KI-VO setzen technische Standards, Zertifizierungsverfahren und behördliche Leitlinien voraus, die bislang nur teilweise vorliegen. Ohne diese Konkretisierungen besteht für Unternehmen erhebliche Rechtsunsicherheit bei der Umsetzung der umfangreichen Compliance-pflichten für Hochrisiko-KI. Der Omnibus-Vorschlag knüpft die Anwendbarkeit der entsprechenden Regelungen daher an die Verfügbarkeit unterstützender Leitlinien und Standards durch die Europäische Kommission.

Nach dem aktuellen Vorschlag würden die Vorschriften für Hochrisiko-KI künftig erst nach einem entsprechenden Beschluss der Europäischen Kommission anwendbar werden, mit zeitlich gestaffelten Übergangsfristen. Für KI-Systeme nach Art. 6 Abs. 2 und Anhang III KI-VO (z. B. Systeme im Personal- oder Bildungsbereich) würden die Pflichten sechs Monate nach einem solchen Beschluss greifen, während für KI-Systeme nach Art. 6 Abs. 1 und Anhang I (z. B. sicherheitsrelevante Komponenten bestimmter Produkte) eine zwölfmonatige Übergangsfrist vorgesehen ist. Unabhängig davon sieht der Vorschlag absolute Höchstfristen vor: spätestens 2. Dezember 2027 beziehungsweise 2. August 2028.

Das Gesetzgebungsverfahren ist derzeit noch nicht abgeschlossen. So steht das Omnibus-Paket für den 13. März 2026 auf der Agenda des Ausschusses der Ständigen Vertreter im Rat der Europäischen Union, um damit die Grundlage für Verhandlungen mit dem Europäischen Parlament zu schaffen. Formal bleibt damit zunächst weiterhin der 2. August 2026 als Anwendungsdatum bestehen. In der politischen Diskussion gilt jedoch eine Verschiebung der Fristen mittlerweile als wahrscheinlich.

II. KI und Urheberrecht

1. Neue Rechtsprechung deutscher Gerichte

Parallel zur regulatorischen Entwicklung gewinnt auch die urheberrechtliche Einordnung von KI-Anwendungen zunehmend an Bedeutung. Deutsche Gerichte befassen sich immer häufiger mit der Frage, wie klassische urheberrechtliche Schutzmechanismen auf Inhalte anzuwenden sind, die im Zusammenhang mit KI-Systemen entstehen oder genutzt werden. Erste Entscheidungen zeigen dabei, dass der Einsatz von KI den urheberrechtlichen Schutz menschlicher Werke jedenfalls nicht entfallen lässt.

Ein aktuelles Beispiel ist ein Urteil des LG Frankfurt vom 17. Dezember 2025 (Az. 2-06 O 301/25). Gegenstand des Verfahrens war ein Musikstück, das mithilfe einer generativen KI aus einem zuvor von einer natürlichen Person verfassten Liedtext erstellt worden war. Der Text stammte von einer privaten Urheberin und wurde von einem Dritten mithilfe eines KI-Musikgenerators vertont. Anschließend wurde der Song über einen Musikvertrieb veröffentlicht und über soziale Medien beworben. Die Urheberin des Textes machte daraufhin Unterlassungsansprüche geltend.

Das Gericht stellte klar, dass der urheberrechtliche Schutz eines von einem Menschen geschaffenen Textes nicht dadurch entfällt, dass dieser mithilfe von KI in ein neues Werk, wie ein Musikstück, integriert oder bearbeitet wird. Entscheidend sei, ob dem ursprünglichen Text weiterhin eine persönliche geistige Schöpfung im Sinne des Urheberrechts zukomme. Dies bejahte das Gericht. Auch wenn einzelne Passagen überarbeitet oder umformuliert worden seien, bleibe der individuelle Ausdruck der Urheberin erkennbar. Die Verwendung des Textes im KI-generierten Song stelle daher eine Nutzung des geschützten Werkes dar.

Das Gericht sah in der Verbreitung des Songs einen Eingriff in das Urheberrecht der Texterin, insbesondere in das Vervielfältigungsrecht gemäß § 16 UrhG. Zwar war der Text im Song teilweise verändert worden, die grundlegende Struktur und zentrale Passagen seien jedoch übernommen worden. Der Vertrieb des KI-generierten Musikstücks konnte daher untersagt werden.

Die Entscheidung reiht sich in eine Reihe jüngerer Verfahren ein, in denen deutsche Gerichte beginnen, urheberrechtliche Grundsätze auf KI-Konstellationen anzuwenden. So hatte bereits das LG München I mit Urteil vom 11. November 2025 (Az. 42 O 14139/24) über urheberrechtliche Fragen im Zusammenhang mit KI-generierten Inhalten zu entscheiden. Auch dort wurde deutlich, dass für den urheberrechtlichen Schutz maßgeblich bleibt, ob eine menschliche schöpferische Leistung vorliegt.

2. Neue EU Initiativen für KI und Urheberrechte

Auch auf europäischer Ebene rückt die urheberrechtliche Dimension generativer KI zunehmend in den Fokus. Am 10. März 2026 hat das Europäische Parlament eine Entschließung zum Thema „Urheberrecht und generative künstliche Intelligenz – Chancen und Herausforderungen“ angenommen, die maßgeblich auf eine Initiative des CDU-Europaabgeordneten Axel Voss zurückgeht.

Die Entschließung greift die derzeit bestehenden Unsicherheiten im Zusammenspiel von generativer KI und dem europäischen Urheberrecht auf. Nach Auffassung des Parlaments werfen insbesondere das Training von KI-Modellen mit urheberrechtlich geschützten Inhalten, die Transparenz über verwendete Trainingsdaten sowie die Vergütung von Rechteinhabern zentrale rechtliche Fragen auf. Gleichzeitig wird betont, dass Innovation im Bereich der KI und der Schutz kreativer Leistungen nicht als Gegensätze verstanden werden sollten, sondern beide Bereiche gemeinsam weiterentwickelt werden müssen.

Inhaltlich spricht sich das Parlament unter anderem für mehr Transparenz bei der Nutzung urheberrechtlich geschützter Inhalte zum Training von KI-Systemen aus. Anbieter generativer KI sollen künftig offenlegen, welche geschützten Inhalte in Trainingsdatensätzen verwendet wurden. Zudem fordert das Parlament die Entwicklung funktionierender Lizenzierungsmechanismen, um eine faire Vergütung von Urhebern zu gewährleisten und zugleich den Zugang zu qualitativ hochwertigen Trainingsdaten zu ermöglichen.

Ein weiterer Schwerpunkt liegt auf der Stärkung von Rechteinhabern, insbesondere aus der Kultur- und Medienbranche. Diese sollen wirksame Möglichkeiten erhalten, der Nutzung ihrer Werke für KI-Trainingszwecke zu widersprechen oder entsprechende Nutzungen zu lizenzieren. Diskutiert wird in diesem Zusammenhang auch die Rolle des Amts der Europäischen Union für geistiges Eigentum (EUIPO) als möglicher Vermittler für Transparenz- und Lizenzierungsmechanismen.

Rechtlich verbindliche Änderungen folgen aus der Entschließung zwar noch nicht. Gleichwohl verdeutlicht die Initiative die politische Richtung der weiteren europäischen Regulierung. Das Europäische Parlament fordert die Kommission ausdrücklich auf zu prüfen, ob der bestehende urheberrechtliche Rechtsrahmen insbesondere die Regelungen zum Text- und Data-Mining angesichts der Entwicklung generativer KI angepasst oder ergänzt werden sollte. Damit ist absehbar, dass die urheberrechtliche Regulierung von KI-Systemen auch auf EU-Ebene in den kommenden Jahren weiter konkretisiert werden dürfte.

III. Nationale Umsetzung der KI-VO: KI-MIG

Neben den Entwicklungen auf europäischer Ebene schreitet auch die nationale Umsetzung der KI-Verordnung voran. Obwohl die KI-VO als Verordnung unmittelbar in allen Mitgliedstaaten gilt, bedarf es ergänzender nationaler Regelungen, insbesondere zur Festlegung der zuständigen Behörden sowie zur Organisation der Marktüberwachung und Aufsicht. In Deutschland soll diese Umsetzung durch das geplante KI-Marktüberwachungs- und Innovationsgesetz (KI-MIG) erfolgen (wir berichteten).

Der Gesetzentwurf sieht im Kern vor, die bestehenden Strukturen der Marktüberwachung für regulierte Produkte auf KI-Systeme zu übertragen. Vorgesehen ist insbesondere eine Koordinierungsrolle der Bundesnetzagentur, die als zentrale Anlaufstelle für Fragen der KI-Aufsicht fungieren und die Zusammenarbeit der verschiedenen Fachbehörden koordinieren soll. Daneben bleiben für bestimmte Anwendungsbereiche wie etwa im Finanzsektor weiterhin die jeweils zuständigen Fachaufsichtsbehörden verantwortlich. Ziel des Gesetzes ist es, eine effiziente Aufsichtsstruktur zu schaffen und zugleich bestehende Zuständigkeiten möglichst weitgehend zu nutzen.

Am 11. März 2026 steht der aktuelle Entwurf des Gesetzes auf der Tagesordnung des Bundesrates. In der politischen und wirtschaftlichen Diskussion wird das Vorhaben bislang überwiegend als notwendiger Schritt zur organisatorischen Umsetzung der europäischen Vorgaben bewertet. Gleichzeitig werden vereinzelt Bedenken geäußert, etwa hinsichtlich der Komplexität der vorgesehenen Aufsichtsstruktur und der praktischen Abstimmung zwischen den beteiligten Behörden.

IV. Internationale Regulierung: Der Colorado AI Act

Neben der europäischen Regulierung entstehen auch außerhalb der Europäischen Union zunehmend spezifische gesetzliche Rahmenwerke für den Einsatz von KI-Systemen. Ein besonders beachtetes Beispiel ist der Colorado AI Act, der im Mai 2024 verabschiedet wurde und als eines der ersten umfassenden KI-Regelwerke in den Vereinigten Staaten gilt. Das Gesetz tritt schrittweise ab dem 30. Juni 2026 in Kraft und richtet sich insbesondere an Unternehmen, die KI-Systeme entwickeln oder einsetzen, welche erhebliche Auswirkungen auf Einzelpersonen haben können.

Im Mittelpunkt des Gesetzes stehen – ähnlich wie in der EU – sogenannte „High-Risk Artificial Intelligence Systems“. Darunter fallen insbesondere KI-Anwendungen, die in sensiblen Bereichen wie Beschäftigung, Kreditvergabe, Wohnraum, Gesundheitsversorgung oder Bildung eingesetzt werden und automatisierte Entscheidungen mit potenziell erheblichen Folgen für betroffene Personen treffen können. Für Entwickler und Betreiber solcher Systeme sieht der Colorado AI Act eine Reihe von Risikomanagement- und Transparenzpflichten vor.

Unternehmen müssen unter anderem Risikobewertungen durchführen, mögliche diskriminierende Auswirkungen analysieren und geeignete Maßnahmen zur Risikominderung implementieren. Zudem bestehen Transparenzpflichten gegenüber Nutzern sowie teilweise auch gegenüber betroffenen Personen, etwa wenn automatisierte Systeme zur Entscheidungsunterstützung eingesetzt werden. Ziel des Gesetzes ist es insbesondere, algorithmische Diskriminierung zu verhindern und den verantwortungsvollen Einsatz von KI-Systemen sicherzustellen.

Im Vergleich zur europäischen KI-Verordnung verfolgt der Colorado AI Act einen stärker sektor- und risikoorientierten Ansatz, konzentriert sich jedoch vor allem auf die Vermeidung von Diskriminierungsrisiken und weniger auf umfassende technische Anforderungen an KI-Systeme. Gleichwohl zeigt das Gesetz, dass sich auch in den Vereinigten Staaten zunehmend regulatorische Ansätze für KI entwickeln, wenn auch bislang vor allem auf Ebene einzelner Bundesstaaten.

V. Handlungsempfehlungen

Die dargestellten Entwicklungen zeigen, dass sich der Rechtsrahmen für den Einsatz von KI derzeit in mehreren Bereichen parallel konkretisiert. Auch wenn einzelne Regelungen noch im Fluss sind, lassen sich bereits jetzt konkrete Maßnahmen ableiten, mit denen Unternehmen ihre rechtlichen Risiken beim Einsatz von KI reduzieren können.

1. KI-Systeme frühzeitig auf mögliche Hochrisiko-Einstufungen prüfen

Vor dem Hintergrund der KI-Verordnung sollten Unternehmen ihre eingesetzten oder geplanten KI-Anwendungen daraufhin analysieren, ob sie potenziell als Hochrisiko-KI-Systeme im Sinne von Art. 6 KI-VO eingestuft werden könnten. Dies betrifft insbesondere Anwendungen im Personalbereich, bei automatisierten Entscheidungsprozessen oder in sicherheitsrelevanten Produktkontexten. Auch wenn sich die Anwendung der entsprechenden Pflichten aufgrund des diskutierten Digital-Omnibus-Verfahrens möglicherweise zeitlich verschiebt, ist bereits jetzt damit zu rechnen, dass umfangreiche Anforderungen an Risikomanagement, Dokumentation und Governance greifen werden. Unternehmen sollten daher frühzeitig interne Prozesse zur Klassifizierung und Bewertung von KI-Systemen etablieren.

2. Nutzung urheberrechtlich geschützter Inhalte bei KI-Anwendungen überprüfen

Die jüngere Rechtsprechung deutscher Gerichte sowie die aktuellen Initiativen auf EU-Ebene zeigen, dass der Umgang mit urheberrechtlich geschützten Inhalten im Zusammenhang mit KI-Systemen zunehmend in den Fokus rückt. Unternehmen sollten daher prüfen, ob und in welchem Umfang bei der Nutzung generativer KI etwa für Marketing, Content-Erstellung oder Softwareentwicklung geschützte Inhalte verarbeitet werden. Dies gilt insbesondere für Fälle, in denen Texte, Bilder oder Musik in KI-Systeme eingespeist oder von diesen verarbeitet werden. Gegebenenfalls sollten entsprechende Nutzungsrechte oder Lizenzen eingeholt werden, um urheberrechtliche Risiken zu vermeiden.

3. Entwicklung nationaler und internationaler KI-Regulierung beobachten

Neben der europäischen KI-Verordnung entstehen auch nationale Aufsichtsstrukturen sowie internationale Regulierungsmodelle. In Deutschland wird mit dem geplanten KI-MIG derzeit der institutionelle Rahmen für die Aufsicht über KI-Systeme geschaffen. Parallel entwickeln sich in anderen Rechtsordnungen wie mit dem Colorado AI Act eigene regulatorische Ansätze, insbesondere mit Blick auf Diskriminierungsrisiken bei KI-gestützten Entscheidungen. Unternehmen, die KI-Systeme international einsetzen oder entwickeln, sollten daher ihre Compliance-Strukturen so ausrichten, dass unterschiedliche regulatorische Anforderungen verschiedener Rechtsordnungen berücksichtigt werden können.

VI. Fazit und Ausblick

Die rechtlichen Rahmenbedingungen für den Einsatz künstlicher Intelligenz befinden sich derzeit in einer Phase intensiver Weiterentwicklung. Neben der schrittweisen Umsetzung der KI-Verordnung und möglichen Anpassungen im Rahmen des Digital-Omnibus-Verfahrens konkretisieren sich insbesondere im Urheberrecht erste Leitlinien durch Rechtsprechung und politische Initiativen auf europäischer Ebene. Parallel werden mit nationalen Durchführungsgesetzen wie dem geplanten KI-MIG die institutionellen Grundlagen für Aufsicht und Durchsetzung geschaffen, während auch außerhalb Europas zunehmend eigene Regulierungsansätze entstehen.

Für Unternehmen bedeutet dies, dass sich der Rechtsrahmen für KI-Anwendungen in den kommenden Jahren weiter verdichten wird. Es ist daher zu erwarten, dass neben neuen Leitlinien und technischen Standards insbesondere gerichtliche Entscheidungen und weitere europäische Gesetzgebungsinitiativen maßgeblich zur Konkretisierung beitragen werden. Unternehmen sind daher gut beraten, die regulatorischen Entwicklungen kontinuierlich zu beobachten und ihre internen Prozesse frühzeitig an den absehbaren Anforderungen auszurichten.

Dieser Beitrag wurde in Zusammenarbeit mit unserer stud. Mitarbeiterin Emily Bernklau erstellt.