Neuer Referentenentwurf zur Durchführung der KI-Verordnung

Der erste Referentenentwurf zur Durchführung der KI-Verordnung (AI-Act) markiert einen zentralen Schritt auf dem Weg zur nationalen Umsetzung des neuen europäischen Rechtsrahmens für Künstliche Intelligenz. Während die EU-Verordnung seit August 2024 in Kraft ist (wir berichteten in Update Datenschutz Nr. 185, Nr. 208) und Übergangsfrist laufen, liegt es nun an den Mitgliedstaaten, die praktischen Zuständigkeiten und Aufsichtsstrukturen festzulegen. Mit dem vom Bundesministerium für Digitalisierung und Staatsmodernisierung (BMDS) am 12. September 2025 vorgelegten Entwurf wird deutlich, wie Deutschland diese Vorgaben ausgestalten möchte. Der Gesetzgebungsprozess befindet sich aktuell in der Ressortabstimmung. Im Anschluss folgen die Beteiligung der Länder und Verbände sowie die parlamentarische Beratung. Für Unternehmen stellt sich damit bereits jetzt die Frage, welche Aufsichtsbehörden künftig zuständig sein werden und wie sich die neuen Anforderungen auf ihre Produkte und Geschäftsmodelle auswirken.

I. Zuständige Behörden und Aufsichtsstrukturen

Der Referentenentwurf sieht vor, dass die Bundesnetzagentur (BNetzA) eine zentrale Rolle bei der Marktüberwachung und Zertifizierung von KI-Systemen übernehmen soll. Ihre Aufgabe umfasst die Aufsicht über verbotene Praktiken, Hochrisiko-KI-Systeme sowie die Einhaltung der Transparenzpflichten. Gleichzeitig soll die BNetzA dort zuständig werden, wo bislang keine sektorspezifischen Strukturen existieren, insbesondere im Bereich biometrischer Systeme, kritischer Infrastrukturen, der Anwendung von KI im Bildungswesen, am Arbeitsplatz, bei der Gewährung öffentlicher Leistungen sowie in Justiz, Strafverfolgung, Migration, Asyl und Grenzkontrolle.

Um Doppelstrukturen zu vermeiden, setzt der Entwurf andererseits auf eine Übertragung bestehender Kompetenzen. Behörden, die bereits in voll harmonisierten Bereichen des Produktrechts tätig sind, sollen auch für KI-Systeme in ihrem Sektor verantwortlich bleiben. Genannt sind hier insbesondere die Aufsicht über Maschinen, Medizinprodukte, Spielzeug, Aufzüge oder Funkanlagen. Im Finanzdienstleistungsbereich wird die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) als zuständige Marktüberwachungsbehörde für Hochrisiko-KI-Systeme vorgesehen, die in direktem Zusammenhang mit regulierten Finanztätigkeiten stehen.

II. Neue Strukturen zur Unterstützung und Kontrolle

Neben den bestehenden Fach- und Aufsichtsbehörden sieht der Entwurf die Einrichtung eines Koordinierungs- und Kompetenzzentrums für die KI-Verordnung (KoKIVO) vor. Dieses soll gewährleisten, dass Rechtsfragen einheitlich beantwortet werden, und gleichzeitig den Austausch zwischen Behörden, Akkreditierungsstellen, Wissenschaft, Wirtschaft und Zivilgesellschaft fördern. Das KoKIVO wird zudem befugt sein, Ausschüsse einzurichten, in denen insbesondere die Marktüberwachungs- und notifizierenden Behörden vertreten sind. Eine aktive Rolle ist auch bei der Entwicklung von Verhaltenskodizes vorgesehen.

Darüber hinaus soll bei der Bundesnetzagentur eine unabhängige KI-Marktüberwachungskammer (UKIM) geschaffen werden. Sie wird mit einem eigenen Vorsitz ausgestattet, der sich aus dem Präsidenten der BNetzA und zwei Vizepräsidenten zusammensetzt. Die UKIM ist verpflichtet, dem Bundestag ab 2026 jährlich einen Tätigkeitsbericht vorzulegen und kann für ihre Arbeit wissenschaftliche Sachverständige hinzuziehen. Zudem wird die BNetzA als zentrale Beschwerdestelle für Verstöße gegen die Verordnung fungieren. Diese Beschwerdestelle soll leicht zugänglich, barrierefrei und benutzerfreundlich ausgestaltet werden.

III. Innovationsfreundliche Ausrichtung

Ein zentrales Anliegen des BMDS ist es, die Umsetzung des AI-Acts in Deutschland so innovationsfreundlich wie möglich zu gestalten. Der Referentenentwurf knüpft dabei an Konzepte an, die bereits von der vorherigen Bundesregierung vorgesehen waren, und erweitert diese um eigene Akzente.

Kernstück ist die Einrichtung eines KI-Reallabors, das Unternehmen die Möglichkeit geben soll, KI-Systeme unter realen Bedingungen zu testen und regulatorische Anforderungen frühzeitig zu berücksichtigen. Besonders Start-ups und kleine sowie mittlere Unternehmen (KMU), die ihren Sitz oder eine Niederlassung in der EU haben, sollen bevorzugten Zugang zu diesem Reallabor erhalten. Ergänzend dazu ist bei der Bundesnetzagentur bereits ein KI-Service-Desk eingerichtet worden, der Unternehmen, Behörden und Organisationen als Beratungsstelle dient und Fragen zu den neuen regulatorischen Anforderungen beantwortet.

Darüber hinaus enthält der Entwurf einen programmatischen Hinweis, der die Handschrift des neuen Digitalministeriums trägt. Danach sollen Verwaltungsprozesse dort, wo es technisch möglich und wirtschaftlich sinnvoll ist, durch KI automatisiert werden. Dies soll nicht nur die Behördenpraxis effizienter machen, sondern auch ein Signal für den breiteren Einsatz von KI in staatlichen Strukturen setzen. Insgesamt wird damit deutlich, dass der Gesetzgeber neben der strikten Regulierung auch die Förderung von Innovation und den erleichterten Marktzugang für junge Unternehmen in den Blick nimmt.

IV. Handlungsempfehlungen für Unternehmen

Der Referentenentwurf verdeutlicht, dass Unternehmen sich frühzeitig mit den künftigen Zuständigkeiten und Anforderungen auseinandersetzen sollten. Auch wenn das Gesetzgebungsverfahren noch nicht abgeschlossen ist, empfiehlt es sich bereits jetzt, konkrete Schritte einzuleiten:

1. Bestandsaufnahme der eingesetzten KI-Systeme

Unternehmen sollten ihre bestehenden und geplanten KI-Anwendungen systematisch erfassen und kategorisieren. Dabei ist insbesondere zu prüfen, ob diese unter die Definition von Hochrisiko-KI-Systemen fallen und damit strengeren Anforderungen unterliegen.

2. Zuordnung zu Aufsichtsbehörden

Da die Zuständigkeit künftig sektorspezifisch ausgestaltet wird, ist eine Analyse erforderlich, welche Behörde für die eigenen Systeme Ansprechpartner sein wird (z. B. BNetzA, BaFin oder Fachaufsichtsbehörden). Dies erleichtert die Vorbereitung auf spätere Genehmigungs- oder Prüfverfahren.

3. Nutzung von Förder- und Beratungsangeboten

Das geplante KI-Reallabor und der KI-Service-Desk bieten die Möglichkeit, frühzeitig rechtliche und technische Fragen zu klären. Gerade KMU und Start-ups sollten diese Anlaufstellen nutzen, um regulatorische Hürden zu reduzieren und ihre Systeme unter realen Bedingungen zu testen.

4. Frühzeitige Einbindung von Rechtsexpertise

Angesichts der neuen Aufsichtsstrukturen und der fortlaufenden Gesetzesentwicklung empfiehlt sich eine kontinuierliche rechtliche Begleitung. Dies ermöglicht nicht nur die Vermeidung von Risiken, sondern auch die strategische Nutzung der vorgesehenen Innovationsförderungen.

V. Fazit

Mit dem vorliegenden Referentenentwurf konkretisiert das BMDS die nationale Umsetzung der KI-Verordnung und legt die künftige Aufsichtslandschaft in Deutschland fest. Im Zentrum stehen die Bundesnetzagentur als zentrale Marktüberwachungsbehörde, die Schaffung neuer Koordinierungs- und Kontrollstrukturen sowie die gezielte Förderung von Innovation durch Reallabore und Beratungsangebote. Auch wenn das Gesetzgebungsverfahren noch nicht abgeschlossen ist, zeichnet sich bereits ab, dass die künftigen Zuständigkeiten und Strukturen klarer gefasst werden. Für Unternehmen bedeutet dies vor allem mehr Orientierung darüber, welche Behörden in Zukunft Ansprechpartner sein werden und welche Unterstützungsangebote vorgesehen sind. Wer die weitere Entwicklung aufmerksam verfolgt und frühzeitig prüft, wie sich die neuen Rahmenbedingungen auf bestehende oder geplante KI-Systeme auswirken könnten, kann rechtzeitig reagieren und die Chancen einer innovationsfreundlichen Ausgestaltung nutzen.

Dieser Beitrag wurde in Zusammenarbeit mit unserer stud. Mitarbeiterin Emily Bernklau erstellt.