KI-Verordnung-Leitfaden · 11 Min.
Die EU-KI-Verordnung: Risikostufen, Zeitplan und die Pflichten der Betreiber (Artikel 26)
Die EU-KI-Verordnung ist das weltweit erste umfassende Gesetz für künstliche Intelligenz. Sie stuft KI-Systeme nach Risiko ein und legt die meisten schweren Pflichten auf Hochrisiko-Systeme. Sie begründet aber auch konkrete Pflichten für die Organisationen, die KI nutzen, nicht nur für jene, die sie bauen. Sie ist bereits in Kraft und gilt stufenweise bis 2027. Dieser Leitfaden erläutert die Risikostufen, die maßgeblichen Termine, die Betreiberpflichten nach Artikel 26 und was es bedeutet, wenn Sie KI in Ihrer Lieferkette beschaffen oder einsetzen.
Die wichtigsten Punkte
- Die KI-Verordnung (Verordnung (EU) 2024/1689) stuft KI nach Risiko ein: verboten, hochriskant, begrenzt (Transparenz) und minimal.
- Gestaffelte Termine: in Kraft am 1. August 2024; verbotene Praktiken ab 2. Februar 2025; KI für allgemeine Zwecke ab 2. August 2025; Hochrisiko und die meisten Pflichten ab 2. August 2026.
- Wenn Sie ein Hochrisiko-KI-System nutzen, sind Sie ein „Betreiber“ mit eigenen Pflichten nach Artikel 26 (menschliche Aufsicht, Überwachung, Protokolle und mehr) auch wenn der Anbieter den Großteil der Pflichten auf der Bauseite trägt.
Was die KI-Verordnung ist
Die KI-Verordnung (Verordnung (EU) 2024/1689) ist eine risikobasierte, produktähnliche Verordnung für KI-Systeme, die auf dem EU-Markt bereitgestellt werden oder deren Ausgabe in der EU verwendet wird. Da sie eine Verordnung ist, gilt sie unmittelbar in allen Mitgliedstaaten. Sie verteilt Pflichten entlang der Wertschöpfungskette: vor allem auf Anbieter (die KI entwickeln) und Betreiber (die sie in eigener Verantwortung nutzen), mit leichteren Rollen für Einführer und Händler.
Statt „KI“ einheitlich zu regulieren, sortiert sie Systeme in Risikostufen und staffelt die Pflichten entsprechend: eine Handvoll Praktiken ist gänzlich verboten, eine definierte Reihe von Hochrisiko-Anwendungen trägt schwere Anforderungen, manche Systeme brauchen nur Transparenz, und die große Mehrheit (KI mit minimalem Risiko) trägt praktisch keine.
Wo die Pflichten liegen
Verbotene Praktiken (untersagt), Hochrisiko-Systeme (die schweren Pflichten: z. B. KI in Beschäftigung, Kreditwesen, kritischer Infrastruktur oder Biometrie) und Systeme mit begrenztem Risiko, die Transparenz erfordern (z. B. den Hinweis, dass man mit KI interagiert oder dass Inhalte KI-generiert sind).
Minimales Risiko (die meiste KI)
Die große Mehrheit der KI-Systeme (Spamfilter, Empfehlungssysteme, die meisten Produktivitätswerkzeuge) fällt unter minimales Risiko und trägt keine spezifischen Pflichten nach der Verordnung, abgesehen von freiwilligen Kodizes und einer allgemeinen Erwartung an KI-Kompetenz.
Der Zeitplan
Die Verordnung gilt stufenweise. Die planungsrelevanten Termine:
In Kraft getreten. Die Frist beginnt; die Pflichten treten ab hier stufenweise in Kraft.
Verbotene Praktiken gelten: KI mit „inakzeptablem Risiko“ (z. B. Social Scoring, bestimmte manipulative oder biometrische Kategorisierungs-Anwendungen) ist untersagt. Auch die KI-Kompetenzpflichten beginnen.
Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) beginnen, ebenso die Governance-Strukturen und die nationalen zuständigen Behörden.
Das Hauptereignis: die Pflichten für Hochrisiko-Systeme (einschließlich der Betreiberpflichten nach Artikel 26) gelten.
Verlängerte Frist für Hochrisiko-KI, die eine Sicherheitskomponente von Produkten ist, die bereits unter anderem EU-Recht (Anhang I) reguliert sind.
Was Betreiber tun müssen (Artikel 26)
Wenn Sie ein Hochrisiko-KI-System in eigener Verantwortung nutzen, legt Artikel 26 Ihnen betriebliche Pflichten auf. Zusammengefasst muss ein Betreiber:
- Das System gemäß den Betriebsanleitungen des Anbieters nutzen.
- Die menschliche Aufsicht kompetenten, geschulten und angemessen ausgestatteten Personen übertragen, die in den Betrieb eingreifen oder ihn außer Kraft setzen können.
- Den Betrieb des Systems überwachen sowie die Nutzung aussetzen und Anbieter und Behörden informieren, wenn es ein Risiko darstellt oder ein schwerwiegender Vorfall eintritt.
- Die automatisch erzeugten Protokolle einen angemessenen Zeitraum aufbewahren: mindestens sechs Monate, sofern anderes Recht keine längere Frist verlangt.
- Sicherstellen, dass die Eingabedaten für den Zweck relevant und hinreichend repräsentativ sind, soweit Sie sie kontrollieren.
- Beschäftigte und ihre Vertretungen informieren, bevor ein Hochrisiko-System am Arbeitsplatz eingesetzt wird, und die von seinen Entscheidungen betroffenen Personen informieren.
- Eine Grundrechte-Folgenabschätzung durchführen, wo erforderlich (Art. 27), und mit den zuständigen Behörden zusammenarbeiten.
Wie sie zu NIS2 und zur DSGVO passt
Die KI-Verordnung ersetzt Ihre anderen Pflichten nicht. Sie kommt obendrauf. Ein KI-System, das personenbezogene Daten verarbeitet, unterliegt weiterhin der DSGVO (und braucht möglicherweise eine Datenschutz-Folgenabschätzung neben der Grundrechte-Folgenabschätzung der KI-Verordnung). Ein KI-System, das Teil Ihres wesentlichen Dienstbetriebs ist, fällt weiterhin unter die Sicherheits- und Meldepflichten von NIS2. Die drei überschneiden sich, statt einander zu verdrängen.
Für die Beschaffung ist genau diese Konvergenz der praktische Punkt. Wenn Sie ein KI-System in Ihre Lieferkette holen, erben Sie Betreiberpflichten (Art. 26) und müssen die Konformitätslage des Anbieters kennen (Konformität, Betriebsanleitungen, Protokollierung, die Risikoklasse des Systems. Das ist dieselbe Lieferanten-Sorgfaltsprüfung, die NIS2 Sie bereits aufzubauen heißt) auf KI gerichtet.
Die Einstufung von KI-Systemen (insbesondere die Hochrisiko-Grenze und die GPAI-Regeln) ist detailliert und einzelfallabhängig, und Durchführungsrechtsakte und Normen kommen noch. Bestätigen Sie die Klasse eines konkreten Systems und Ihre Rolle mit fachkundiger Beratung und dem amtlichen Text.
Was das für Sie bedeutet
Ihre Pflichten hängen von Ihrer Rolle gegenüber dem System ab:
Ein Anbieter (Sie entwickeln oder verändern ein KI-System wesentlich)
Sie tragen die Pflichten auf der Bauseite: Risikomanagement, Daten-Governance, technische Dokumentation, Konformitätsbewertung und CE-Kennzeichnung für Hochrisiko-Systeme. Weitgehend ab 2. August 2026.
Ein Betreiber (Sie nutzen KI in eigener Verantwortung)
Artikel 26 gilt für Hochrisiko-Systeme: menschliche Aufsicht, Überwachung, Protokolle, Information der Beschäftigten und, wo erforderlich, eine Grundrechte-Folgenabschätzung. Bauen Sie das jetzt für den 2. August 2026 auf.
Ein Einführer oder Händler
Sie dürfen nur konforme Hochrisiko-Systeme bereitstellen, müssen Konformität und CE-Kennzeichnung des Anbieters prüfen und tätig werden, wenn Sie erfahren, dass ein System nicht konform ist.
Ein Käufer, der KI für seine Lieferkette beschafft
In der Regel sind Sie der Betreiber. Verlangen Sie die Anleitungen des Anbieters, die Risikoklasse, den Konformitätsstatus und die Protokollierfähigkeit, und behandeln Sie KI-Anbieter als Teil Ihrer NIS2-Lieferanten-Sorgfaltsprüfung.
Quellen: Verordnung (EU) 2024/1689 (KI-Verordnung) und die Seiten der Europäischen Kommission zur KI-Verordnung. Termine, Stufen und Rollen entsprechen der veröffentlichten Verordnung; bestätigen Sie die Einstufung eines konkreten Systems mit fachkundiger Beratung.
Wie norppa.io hilft
norppa.io macht ein KI-System nicht KI-Verordnungs-konform (das ist Aufgabe von Anbieter und Betreiber) aber es gibt Ihnen Sichtbarkeit über die KI-Exposition in Ihrer Lieferkette, wo die Sorgfaltsprüfung des Betreibers beginnt. Das Scanning legt KI-Dienst-Endpunkte, exponierte Modell- und Inferenz-APIs sowie KI-bezogene Schnittstellen (einschließlich Model-Context-Protocol-Endpunkten) auf der Angriffsfläche Ihrer Lieferanten offen.
Selbstbewertungsfragebögen erfassen, was kein externer Scan sieht (welche KI-Systeme ein Lieferant einsetzt, ihre Risikoklasse, ihren Konformitätsstatus und die Vorkehrungen zur menschlichen Aufsicht) und jede Antwort wird neben das aktuelle technische Profil gestellt, bereit für Ihre Lieferantenakte. Es ist derselbe kontinuierliche, nachweisgestützte Ansatz, den NIS2 erwartet, ausgeweitet auf die KI, die Ihre Lieferanten betreiben.