Hochrisiko-KI-Systeme der EU-KI-Verordnung

Es gibt zwei voneinander unabhängige Wege. Der erste steht in Artikel 6 Absatz 1: Das System soll als Sicherheitsbauteil eines Produkts verwendet werden oder ist selbst ein Produkt, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften fällt, und dieses Produkt muss vor dem Inverkehrbringen einer Konformitätsbewertung durch Dritte unterzogen werden. Beide Voraussetzungen müssen vorliegen. Anhang I listet die bekannten Produktregime auf, darunter Maschinen, Aufzüge, Spielzeug, Funkanlagen, Medizinprodukte, In-vitro-Diagnostika, Kraftfahrzeuge und Zivilluftfahrt.

Der zweite Weg steht in Artikel 6 Absatz 2: Das System wird in einem der in Anhang III genannten Bereiche eingesetzt, unabhängig davon, ob es Teil eines regulierten Produkts ist. Anhang III ist um die Zweckbestimmung herum formuliert, nicht um die Technologie. Entscheidend ist, wofür das System bestimmungsgemäß verwendet werden soll, wie es Betriebsanleitung und Anbieterunterlagen beschreiben, und nicht welches Modell dahintersteht.

Vier Einträge tragen im privaten Sektor die Hauptlast. Nummer 4 betrifft Beschäftigung: Einstellung und Auswahl, einschließlich zielgerichteter Stellenanzeigen, Filterung von Bewerbungen und Bewertung von Kandidaten, sowie Entscheidungen über Beförderung, Beendigung, Aufgabenzuweisung und Leistungsüberwachung. Nummer 5 Buchstabe b betrifft Kreditwürdigkeitsprüfung und Bonitätsbewertung, mit Ausnahme der Betrugserkennung. Nummer 5 Buchstabe c betrifft Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen. Nummer 3 betrifft Bildung, einschließlich Zulassung, Bewertung von Lernergebnissen und Prüfungsaufsicht.

Die übrigen Einträge sind enger. Nummer 1 betrifft Biometrie: biometrische Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen und Emotionserkennung, soweit nicht bereits nach Artikel 5 verboten. Nummer 2 betrifft KI als Sicherheitsbauteil kritischer Infrastruktur, etwa im Straßenverkehr oder bei der Versorgung mit Wasser, Gas, Wärme oder Strom. Die Nummern 6 bis 8 betreffen Strafverfolgung, Migration und Grenzkontrolle sowie Rechtspflege und demokratische Prozesse und richten sich überwiegend an öffentliche Stellen.

Artikel 6 Absatz 3 enthält eine Ausnahme. Ein System aus Anhang III gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, auch indem es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst, und wenn eine von vier Bedingungen erfüllt ist: eng gefasste Verfahrensaufgabe; Verbesserung des Ergebnisses einer zuvor abgeschlossenen menschlichen Tätigkeit; Erkennen von Entscheidungsmustern oder Abweichungen, ohne eine frühere menschliche Bewertung ohne angemessene Überprüfung zu ersetzen; oder eine vorbereitende Aufgabe.

Um diese Ausnahme stehen zwei Schranken. Ein System, das ein Profiling natürlicher Personen vornimmt, gilt stets als hochriskant, welche Bedingung auch immer erfüllt scheint. Und die Ausnahme ist keine Selbstbedienung: Wer zu dem Ergebnis kommt, dass ein System nicht hochriskant ist, muss diese Bewertung vor dem Inverkehrbringen dokumentieren, das System nach Artikel 49 Absatz 2 in der EU-Datenbank registrieren und die Dokumentation den zuständigen nationalen Behörden auf Anfrage vorlegen (Artikel 6 Absatz 4).

Kapitel III Abschnitt 2 regelt die Substanz: ein Risikomanagementsystem über den Lebenszyklus (Artikel 9), Daten-Governance (Artikel 10), technische Dokumentation nach Anhang IV (Artikel 11), automatische Protokollierung (Artikel 12), die Betriebsanleitung (Artikel 13), menschliche Aufsicht (Artikel 14) sowie erklärte Genauigkeit, Robustheit und Cybersicherheit (Artikel 15). Artikel 16 macht daraus operative Pflichten: ein Qualitätsmanagementsystem (Artikel 17), Aufbewahrung der Dokumentation (Artikel 18) und der Protokolle (Artikel 19), die Konformitätsbewertung vor dem Inverkehrbringen (Artikel 43), eine EU-Konformitätserklärung (Artikel 47), die CE-Kennzeichnung (Artikel 48), die Registrierung (Artikel 49) und Korrekturmaßnahmen bei Nichtkonformität (Artikel 20).

Der Anbieter entwickelt das System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Handelsmarke in Verkehr (Artikel 3 Nummer 3); ihn trifft Artikel 16. Der Betreiber verwendet das System in eigener beruflicher Verantwortung (Artikel 3 Nummer 4) und trägt die Pflichten des Artikels 26: Verwendung gemäß Betriebsanleitung, menschliche Aufsicht, Eingabedaten, Überwachung, Protokolle sowie Information von Beschäftigten und betroffenen Personen. Einführer prüfen Konformitätsbewertung, technische Dokumentation, CE-Kennzeichnung und Konformitätserklärung (Artikel 23).

Händler prüfen vor der Bereitstellung CE-Kennzeichnung, Konformitätserklärung und Betriebsanleitung und müssen handeln, wenn sie Grund zur Annahme der Nichtkonformität haben (Artikel 24). Die Rollen können wechseln. Nach Artikel 25 Absatz 1 wird ein Händler, Einführer, Betreiber oder sonstiger Dritter zum Anbieter mit den Pflichten aus Artikel 16, wenn er ein bereits in Verkehr gebrachtes Hochrisiko-System mit seinem Namen versieht, es wesentlich verändert oder die Zweckbestimmung so ändert, dass es hochriskant wird.

Die Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat beide Termine verschoben. Kapitel III Abschnitte 1 bis 3 gilt für Systeme nach Anhang III ab dem 2. Dezember 2027; dazu gehören die Anforderungen an Anbieter ebenso wie die Betreiberpflichten der Artikel 26 und 27. Artikel 6 Absatz 1 und die entsprechenden Pflichten für Produktsysteme nach Anhang I gelten ab dem 2. August 2028. Für Bestandssysteme gilt die Sonderregel des Artikels 111 Absatz 2.