Vibe Coding: Rechtsfragen und Haftungsrisiken KI-erzeugter Software

Generative künstliche Intelligenz hat die Softwareentwicklung innerhalb kurzer Zeit spürbar verändert. Software-Code und ganze Programme entstehen zunehmend im Dialog mit Sprachmodellen, und zwar nicht mehr nur bei Softwareentwicklern oder in der IT-Abteilung, sondern auch in Fachbereichen ohne Programmierkenntnisse. Unter dem Begriff „Vibe Coding“ hat sich dabei eine Arbeitsweise etabliert, bei der Anwendungen allein über natürlichsprachliche Anweisungen erstellt werden – und das häufig, ohne dass der erzeugte Code gelesen oder geprüft wird. Den erheblichen Effizienzgewinnen stehen Rechtsfragen gegenüber, die vom Datenschutz über den Schutz des eigenen Codes bis zur Haftung bei der Verletzung von Rechten Dritter reichen. Zugleich knüpft das Unionsrecht an Software unabhängig von ihrem Entstehungsweg an: Die Meldepflichten des Cyber Resilience Act (CRA) gelten seit dem 11. September 2026 und die neue Produkthaftungsrichtlinie, die Software ausdrücklich als Produkt erfasst, ist bis zum 9. Dezember 2026 in nationales Recht umzusetzen. Der nachfolgende Beitrag erläutert die Erscheinungsformen des Vibe Coding, ordnet die damit verbundenen Rechtsfragen ein und zeigt, wie Unternehmen den Einsatz rechtssicher gestalten können.

I. Begriff und Erscheinungsformen

Vibe Coding bezeichnet die Erstellung von Software durch natürlichsprachliche Anweisungen an ein KI-System, das Entwurf, Architektur und Implementierung eigenständig übernimmt. Der Nutzer beschreibt lediglich die gewünschte Funktion, prüft das Ergebnis im laufenden Betrieb und fordert bei Bedarf Änderungen an. Der erzeugte Code selbst wird dabei von vielen Nutzern weder gelesen noch geprüft. Da Sprachmodelle ihre Ausgaben auf Grundlage statistischer Wahrscheinlichkeiten erzeugen, ist der Code zudem nur eingeschränkt reproduzierbar und für den Nutzer oft nicht nachvollziehbar. Problematisch ist damit weniger der KI-Einsatz als solcher, als der Verzicht auf menschliche Kontrolle.

Abzugrenzen ist Vibe Coding von Formen der KI-Unterstützung, bei denen der Entwickler die Verantwortung für Struktur und Inhalt des Codes behält, etwa bei Vervollständigungsvorschlägen oder der Generierung einzelner Programmteile. Die rechtlichen Folgen hängen maßgeblich davon ab, wie weit die Gestaltung des Programms aus der Hand gegeben wird. Bedeutsam ist zudem der Einsatzzweck: Bei internen Werkzeugen stehen datenschutz- und sicherheitsrechtliche Fragen im Vordergrund, bei Software für Kunden oder den Markt kommen produktbezogene Pflichten und Haftungsrisiken hinzu.

II. Rechtliche Einordnung

1. Datenschutz

Datenschutzrechtlich ist zwischen der Nutzung des KI-Systems während der Entwicklung und dem Betrieb der erzeugten Anwendung zu unterscheiden.

Coding-Werkzeuge verarbeiten nicht nur die Anweisungen des Nutzers, sondern regelmäßig den gesamten Projektkontext, einschließlich Datenbanken, Konfigurationsdateien und Protokollen. Enthalten diese personenbezogene Daten, etwa Kundendaten in Testumgebungen, ist ihre Übermittlung an den Anbieter eine Verarbeitung im Sinne der DSGVO. Es ist dann ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO erforderlich und bei Verarbeitung außerhalb des Europäischen Wirtschaftsraums sind die Anforderungen der Art. 44 ff. DSGVO zu beachten. Behält sich der Anbieter vor, Eingaben für das Training seiner Modelle zu nutzen, dürfte er insoweit selbst Verantwortlicher sein – und das Privileg der Auftragsverarbeitung greift nicht. Für die Weitergabe an den KI-Anbieter fehlt dann regelmäßig eine tragfähige Rechtsgrundlage. Praktisch relevant ist dies vor allem dort, wo Fachabteilungen frei verfügbare Werkzeuge über private oder kostenlose Konten nutzen, deren Bedingungen eine Trainingsnutzung vorsehen. Ihr Einsatz mit personenbezogenen Daten sollte durch interne Richtlinien untersagt werden.

Für die erzeugte Anwendung bleibt das Unternehmen Verantwortlicher, unabhängig davon, wer den Code geschrieben hat. Es hat nach Art. 25 DSGVO den Datenschutz durch Technikgestaltung sicherzustellen und nach Art. 32 DSGVO ein angemessenes Schutzniveau zu gewährleisten. Ungeprüfter Code kann typische Schwachstellen aufweisen, etwa fehlende Zugriffsbeschränkungen, ungeschützte Schnittstellen oder im Code hinterlegte Zugangsdaten. Zudem binden KI-Systeme mitunter selbständig externe Dienste ein und lösen so unbemerkt Datenübermittlungen an Dritte aus. Da der Verantwortliche die Einhaltung der Datenschutzgrundsätze nach Art. 5 Abs. 2 DSGVO nachweisen muss, dürfte der produktive Einsatz ungeprüfter Anwendungen mit der Rechenschaftspflicht kaum vereinbar sein. Realisiert sich ein Risiko, greifen die Meldepflichten nach Art. 33 und 34 DSGVO. Verstöße gegen Art. 25 und 32 DSGVO sind zudem nach Art. 83 Abs. 4 DSGVO bußgeldbewehrt.

2. Schutz des eigenen Codes

Computerprogramme sind urheberrechtlich nach § 69a UrhG geschützt, wenn sie auf einer eigenen geistigen Schöpfung beruhen. Urheber kann nach § 7 UrhG nur ein Mensch sein. Bei KI-generiertem Code scheitert der Schutz daher oftmals bereits am Fehlen einer menschlichen Schöpfung. Selbst ein umfangreiches Programm bleibt ungeschützt, wenn es vollständig durch KI erzeugt worden ist. Die Anweisungen des Nutzers ändern daran in der Regel nichts, da sie lediglich Ideen und Funktionen beschreiben, die nach § 69a Abs. 2 Satz 2 UrhG nicht geschützt sind. Ein durch Vibe Coding erzeugtes Programm dürfte deshalb weitgehend gemeinfrei sein.

Anders kann es liegen, wenn der Entwickler Architektur, Datenstrukturen und Modulzuschnitt selbst vorgibt und die KI nur die Implementierung übernimmt, oder wenn er den Output substanziell überarbeitet. Die Schutzfähigkeit ist dann regelmäßig für einzelne Programmteile zu beurteilen. Wer sich auf Urheberrechtsschutz beruft, muss den menschlichen Anteil im Streitfall darlegen und beweisen. Ohne Dokumentation des Entstehungsprozesses dürfte dies kaum gelingen. Die Folgen betreffen auch Lizenzmodelle, vertragliche Rechteeinräumungen und die Bewertung von Software in Transaktionen.

Als Rückfallschutz kommt das Geschäftsgeheimnisgesetz (GeschGehG) in Betracht, das auch maschinell erzeugte Informationen schützen kann. Voraussetzung sind jedoch ein berechtigtes Interesse an der Geheimhaltung sowie angemessene Geheimhaltungsmaßnahmen. Gestattet das Unternehmen dem Anbieter die Trainingsnutzung seines Codes, dürfte es hieran fehlen. Zudem kann der Schutz wegfallen, wenn Quellcode an Dritte ohne Schutzmaßnahmen ausgeliefert wird, wie es bei Webanwendungen häufig der Fall ist. Der Geheimnisschutz ersetzt das urheberrechtliche Ausschließlichkeitsrecht daher nicht vollständig, sondern verlagert den Schutz auf Vertrag und Organisation.

3. Rechte Dritter im generierten Code

Sprachmodelle werden mit umfangreichen Mengen öffentlich verfügbaren Codes trainiert und können Teile davon im Output wiedergeben. Übernimmt ein Unternehmen solchen Code in eigene Software, haftet es für etwaige Rechtsverletzungen selbst. Ob das Training des Modells rechtmäßig war, ist dafür nach überwiegender Auffassung ohne Belang. Kurze, gängige Codesequenzen sind mangels Individualität regelmäßig nicht geschützt. Relevant sind vor allem längere, charakteristische Passagen.

Praktisch im Vordergrund stehen Open-Source-Lizenzen. Copyleft-Lizenzen wie die GNU General Public License (GPL) verlangen bei Weitergabe abgeleiteter Software deren Lizenzierung unter denselben Bedingungen einschließlich Offenlegung des Quellcodes. Ein Verstoß kann zum Wegfall der Nutzungsrechte führen. Häufiger dürften Verstöße gegen permissive Lizenzen wie MIT oder Apache 2.0 sein, die die Beibehaltung von Urheber- und Lizenzvermerken verlangen, die bei KI-generiertem Code regelmäßig fehlen.

Unterlassungsansprüche bestehen verschuldensunabhängig. Für Schadensersatzansprüche nach § 97 Abs. 2 UrhG dürfte sich der Sorgfaltsmaßstab an den verfügbaren Prüfwerkzeugen orientieren, sodass sich kaum entlasten kann, wer angebotene Filter deaktiviert oder auf eine Lizenzprüfung verzichtet. Freistellungszusagen der Tool-Anbieter bieten nur begrenzten Schutz, da sie meist an die Aktivierung solcher Filter geknüpft sind und nur im Innenverhältnis wirken.

4. Produktregulierung und Haftung

Der CRA knüpft die Herstellerpflichten an das Produkt mit digitalen Elementen, nicht an dessen Entstehungsweg (wir berichteten in Datenschutzupdate Nr. 243). Wer vibe-codierte Software in Verkehr bringt, hat dieselben Anforderungen an sichere Konzeption, Risikobewertung und Schwachstellenbehandlung zu erfüllen wie bei herkömmlicher Entwicklung. Das setzt voraus, dass der Hersteller die Zusammensetzung seines Produkts kennt. Von einem KI-System wiedergegebener Fremdcode erscheint in der Software-Stückliste (SBOM) jedoch nicht als Abhängigkeit, sondern als Eigenentwicklung. Schwachstellen der ursprünglichen Bibliothek können so unentdeckt bleiben und lassen sich für Meldungen nach Art. 14 CRA kaum zuordnen. Rein interne Werkzeuge fallen dagegen regelmäßig nicht in den Anwendungsbereich des CRA.

Die neue Produkthaftungsrichtlinie bezieht Software unabhängig von der Art ihrer Bereitstellung in den Produktbegriff ein. Die verschuldensunabhängige Haftung knüpft an das fehlerhafte Produkt an, daher entlastet es den Hersteller nicht, dass der Code KI-generiert ist. Als Fehler können auch Sicherheitslücken gelten. Das deutsche Umsetzungsgesetz soll nach dem Regierungsentwurf am 9. Dezember 2026 in Kraft treten.

Im Vertragsverhältnis zu Kunden begründet die Verletzung von Rechten Dritter einen Rechtsmangel, Sicherheitslücken können einen Sachmangel darstellen. Ob bereits die fehlende Schutzfähigkeit vibe-codierter Software einen Mangel begründet, wenn dem Kunden Nutzungsrechte eingeräumt werden sollten, ist ungeklärt. Die KI-VO spielt für Unternehmen, die Coding-Werkzeuge einsetzen, demgegenüber eine untergeordnete Rolle. Relevant bleibt vor allem die Pflicht zur Förderung der KI-Kompetenz des Personals nach Art. 4 KI-VO. Unabhängig davon hat die Geschäftsleitung im Rahmen ihrer Organisationspflichten dafür zu sorgen, dass der Einsatz solcher Werkzeuge durch klare Vorgaben gesteuert wird.

III. Handlungsempfehlungen

Unternehmen sollten den Einsatz von Coding-Werkzeugen zunächst durch eine interne Richtlinie steuern. Diese sollte festlegen, welche Werkzeuge in welcher Konfiguration freigegeben sind, welche Daten nicht in den Verarbeitungskontext gelangen dürfen und ab welcher Verwendung ein menschliches Code-Review verpflichtend ist. Für interne Prototypen mögen geringere Anforderungen genügen. Anwendungen, die personenbezogene Daten verarbeiten oder Kunden bereitgestellt werden, sollten dagegen nicht ohne Prüfung produktiv gesetzt werden. Technisch empfiehlt sich der Einsatz von Unternehmenslizenzen mit Auftragsverarbeitungsvertrag und ausgeschlossener Trainingsnutzung, ergänzt um eine Beschränkung des Dateizugriffs und den Ausschluss von Zugangsdaten. Vor jeder Veröffentlichung sollte zudem eine Lizenz- und Duplikatsprüfung erfolgen.

Ebenso wichtig ist die Dokumentation. Prompt-Verläufe, Änderungshistorien und Prüfergebnisse sollten planmäßig aufbewahrt werden, da sie sowohl für den Nachweis urheberrechtlicher Schutzfähigkeit als auch für die Entlastung im Haftungsfall und die Erfüllung der Pflichten nach dem CRA benötigt werden. Hersteller sollten ihre Software-Stückliste um Angaben zur Herkunft KI-generierter Bestandteile ergänzen.

Schließlich sind Verträge anzupassen. In Verträgen mit Entwicklungsdienstleistern sollte geregelt werden, ob und in welchem Umfang KI eingesetzt werden darf, wie der Einsatz offenzulegen ist und wer das Risiko fehlender Schutzfähigkeit und verletzter Rechte Dritter trägt. Gegenüber Tool-Anbietern ist auf die Zuweisung der Rechte am Output, den Ausschluss der Trainingsnutzung und angemessene Vertraulichkeitsregelungen zu achten. Bei Unternehmenstransaktionen sollte der KI-Einsatz in der Softwareentwicklung Gegenstand der Due Diligence sein.

IV. Fazit und Ausblick

Vibe Coding ist nicht per se rechtlich unzulässig. Die Risiken ergeben sich vielmehr aus dem Verzicht auf menschliche Kontrolle: Der erzeugte Code ist regelmäßig nicht urheberrechtlich geschützt, kann aber Rechte Dritter verletzen, Sicherheitslücken enthalten und datenschutzrechtliche Pflichten berühren. Unternehmen, die den Einsatz durch klare Vorgaben, Prüfprozesse und angepasste Verträge steuern, können die Effizienzgewinne aber nutzen, ohne die rechtliche Kontrolle über ihre Software zu verlieren.

Die regulatorischen Anforderungen werden in den kommenden Monaten weiter zunehmen. Das neue Produkthaftungsgesetz soll am 9. Dezember 2026 in Kraft treten, und ab dem 11. Dezember 2027 gilt der CRA vollständig. Zugleich ist zu erwarten, dass die Rechtsprechung zur Schutzfähigkeit KI-generierter Werke und zur urheberrechtlichen Bewertung des KI-Trainings an Kontur gewinnt. 

Dieser Beitrag wurde in Zusammenarbeit mit unserer stud. Mitarbeiterin Emily Bernklau erstellt.