Die KI-Verordnung (AI Act) ist die weltweit erste umfassende Regulierung für künstliche Intelligenz. Ziel ist es, die sichere, transparente und diskriminierungsfreie Entwicklung und Nutzung von KI-Systemen im europäischen Binnenmarkt zu gewährleisten. Die Verordnung gilt ab 2026 schrittweise und folgt einem risikobasierten Ansatz, der je nach Risiko des Systems abgestufte Anforderungen vorsieht.
Key Facts
Ziel des AI Acts ist es, ein einheitliches Regelwerk für den Einsatz von KI-Systemen in der EU zu schaffen, das Grundrechte schützt, Innovation ermöglicht und Vertrauen in KI stärkt. KI-Systeme werden in vier Risikokategorien eingeteilt: inakzeptabel (verboten), hoch, begrenzt und minimal. Hochrisiko-Systeme unterliegen umfangreichen regulatorischen Anforderungen, etwa in sensiblen Bereichen wie Gesundheit, Bildung, kritischer Infrastruktur, Justiz oder Personalwesen.
Die Verordnung richtet sich an alle Akteure der KI-Wertschöpfungskette – unabhängig vom Sitz des Unternehmens –, sofern das KI-System in der EU in Verkehr gebracht oder dessen Ergebnis in der EU genutzt wird. Erfasst werden insbesondere Anbieter, Nutzer (Anwender), Importeure, Händler sowie Entwickler von Basismodellen mit allgemeinem Verwendungszweck. Bei Hochrisiko-KI-Systemen liegt der regulatorische Fokus auf den Anbietern.
Anbieter von Hochrisiko-KI-Systemen müssen ein umfassendes Qualitäts- und Risikomanagementsystem einführen, die Datenqualität sicherstellen, technische Dokumentationen erstellen und automatische Protokollierungen implementieren. Sie sind verpflichtet, eine Gebrauchsanweisung bereitzustellen, menschliche Aufsicht sicherzustellen und das System auf Genauigkeit, Robustheit und Cybersicherheit auszulegen. Die CE-Kennzeichnung und Eintragung in eine EU-Datenbank sind verpflichtend. Auch Anbieter von Basismodellen müssen bestimmte Dokumentations- und Informationspflichten erfüllen. Nutzer von Hochrisiko-Systemen müssen insbesondere deren sicheren Einsatz gewährleisten, Eingabedaten verantworten und Vorfälle melden. Importeure und Händler fungieren als Kontrollinstanzen und tragen dafür Sorge, dass nur konforme Systeme auf den Markt gelangen.
Anbieter müssen jederzeit in der Lage sein, gegenüber den zuständigen Behörden eine vollständige Nachweisdokumentation vorzulegen. Diese umfasst u.a. technische Systembeschreibungen, Risikomanagementnachweise, Dokumentationen zur Daten-Governance, automatische Protokollierungsfunktionen, eine Gebrauchsanweisung sowie eine EU-Konformitätserklärung. Die Dokumentation ist Voraussetzung für das Konformitätsbewertungsverfahren und das Inverkehrbringen von Hochrisiko-KI-Systemen.
Die Verordnung verpflichtet Anbieter, ihre Systeme so zu konzipieren, dass sie den Schutz von Gesundheit, Sicherheit und Grundrechten gewährleisten. Besonders hervorgehoben wird die Pflicht zur menschlichen Aufsicht („Stopptaste“), zur Berücksichtigung ethischer Anforderungen und zur Vermeidung diskriminierender Effekte.
Bei Verstößen gegen die KI-Verordnung drohen empfindliche Sanktionen. Die Höchstgrenze liegt bei 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Auch Verstöße durch Händler oder Nutzer können zu aufsichtsrechtlichen Maßnahmen führen.
Die KI-Verordnung eröffnet erhebliches Potenzial für Anbieter, die auf "Trustworthy AI" setzen. Frühzeitig zertifizierte Systeme verschaffen sich einen erheblichen Wettbewerbsvorteil im europäischen und globalen Markt. Der AI Act schafft Rechtssicherheit und harmonisierte Bedingungen im Binnenmarkt, was Skalierung und Vermarktung erleichtert. Zugleich entsteht ein wachsender Markt für spezialisierte Beratungs-, Prüf- und Zertifizierungsdienstleistungen rund um KI-Compliance.
Unser Beratungsangebot
- Rechtliche Analyse und Klassifizierung Ihrer KI-Systeme gemäß den Risikokategorien des AI Acts.
- Entwicklung und Implementierung von Compliance-Strategien sowie begleitenden Managementsystemen für Anbieter von Hochrisiko-KI-Systemen.
- Erstellung der technischen Dokumentation und der EU-Konformitätserklärung zur Erfüllung der Nachweispflichten.
- Schulung Ihrer Mitarbeiter hinsichtlich der gesetzlich geforderten KI-Kompetenz.
- Rechtssichere Gestaltung von Entwicklungs-, Lizenz- und Nutzungsverträgen zur Minimierung von Haftungsrisiken.
- Vertretung Ihrer Interessen gegenüber Aufsichtsbehörden in Prüfverfahren oder bei der Abwehr von Sanktionen.