Betreiberpflichten nach der KI-Verordnung (AI Act)

Artikel 3 Nummer 4 definiert den Betreiber als natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, die Nutzung erfolgt im Rahmen einer persönlichen und nicht beruflichen Tätigkeit. Ein Unternehmen, das ein Tool zur Bewerbervorauswahl lizenziert, einen Chatbot eines Drittanbieters auf der Website einbindet oder Mitarbeitenden einen generativen KI-Assistenten bereitstellt, ist Betreiber dieser Systeme. Anbieter ist, wer das System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3).

Die Rollen können wechseln. Nach Artikel 25 Absatz 1 gilt ein Betreiber als Anbieter eines Hochrisiko-KI-Systems und unterliegt den Anbieterpflichten aus Artikel 16, wenn er ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke versieht, es wesentlich verändert oder die Zweckbestimmung eines nicht hochriskanten Systems so ändert, dass es hochriskant wird. Wer etwa ein KI-System mit allgemeinem Verwendungszweck zur Reihung von Bewerbungen einsetzt, sollte diesen Fall anhand von Artikel 25 Absatz 1 Buchstabe c und Anhang III Nummer 4 prüfen.

Der Digitale Omnibus zur KI, die Verordnung (EU) 2026/1744, ist am 27. Juli 2026 in Kraft getreten und hat den Zeitplan für Hochrisiko-KI verschoben. Die Artikel 26 und 27 stehen in Kapitel III Abschnitt 3. Für Hochrisiko-KI-Systeme nach Anhang III gelten sie ab 2. Dezember 2027, für Hochrisiko-KI-Systeme nach Anhang I ab 2. August 2028. Seit 2. August 2026 gelten sie also noch nicht.

Andere Pflichten, die Betreiber betreffen, gelten bereits. Die KI-Kompetenz nach Artikel 4 und die Verbote nach Artikel 5 gelten seit 2. Februar 2025. Die Transparenzpflichten für Betreiber nach Artikel 50 Absatz 3 und 4 gelten ab 2. August 2026. Wer davon ausgeht, dass vor Dezember 2027 nichts gilt, sollte diese Punkte zuerst prüfen.

Artikel 27 verlangt vor der Inbetriebnahme eines Hochrisiko-KI-Systems nach Artikel 6 Absatz 2 eine Grundrechte-Folgenabschätzung, aber nur von bestimmten Betreibern: Einrichtungen des öffentlichen Rechts, privaten Einrichtungen, die öffentliche Dienste erbringen, sowie Betreibern von Systemen zur Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen (Anhang III Nummer 5 Buchstabe b) oder zur Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen (Anhang III Nummer 5 Buchstabe c). Ein privater Arbeitgeber mit einem Bewerber-Screening-Tool muss allein deshalb keine Grundrechte-Folgenabschätzung durchführen.

Die Abschätzung beschreibt die Verfahren, in denen das System eingesetzt wird, Zeitraum und Häufigkeit der Verwendung, die betroffenen Personengruppen, die spezifischen Schadensrisiken, die Maßnahmen der menschlichen Aufsicht sowie die Maßnahmen für den Fall, dass Risiken eintreten, einschließlich interner Governance und Beschwerdemechanismen (Artikel 27 Absatz 1). Die Ergebnisse teilt der Betreiber der Marktüberwachungsbehörde mit (Artikel 27 Absatz 3). Deckt eine Datenschutz-Folgenabschätzung bereits Teile ab, ergänzt die Grundrechte-Folgenabschätzung diese (Artikel 27 Absatz 4).

Nach Artikel 50 Absatz 3 müssen Betreiber von Emotionserkennungssystemen oder Systemen zur biometrischen Kategorisierung die betroffenen Personen über den Betrieb informieren. Nach Artikel 50 Absatz 4 müssen Betreiber offenlegen, dass Bild-, Ton- oder Videoinhalte, die ein Deepfake sind, künstlich erzeugt oder manipuliert wurden. Auch KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, sind offenzulegen, außer sie wurden menschlich überprüft oder redaktionell kontrolliert und jemand trägt die redaktionelle Verantwortung.

Die Chatbot-Hinweispflicht in Artikel 50 Absatz 1 richtet sich an Anbieter. Wenn Sie einen eigenen Assistenten bauen, etwa auf Basis einer Modell-API, und ihn unter eigenem Namen in Betrieb nehmen, prüfen Sie, ob Sie nach Artikel 3 Nummer 3 dessen Anbieter sind. Unabhängig davon gelten die Maßnahmen zur KI-Kompetenz nach Artikel 4 für jeden Betreiber, unabhängig vom Risiko der genutzten Tools.

Beginnen Sie mit einem Verzeichnis aller eingesetzten KI-Systeme: wer verantwortlich ist und wofür sie genutzt werden. Markieren Sie jede Nutzung, die unter Anhang III fällt, etwa Personalauswahl, Leistungsbewertung oder Bonitätsbewertung, und prüfen Sie, ob die Ausnahme nach Artikel 6 Absatz 3 greifen könnte. Fordern Sie bei jedem Anbieter die Betriebsanleitung sowie Informationen zu Protokollierung und menschlicher Aufsicht an. Halten Sie fest, wer jedes Hochrisiko-KI-System beaufsichtigt und welche Schulung diese Person erhalten hat.

Schließen Sie danach die Lücken mit bereits laufenden Fristen: Hinweise nach Artikel 50 und Maßnahmen zur KI-Kompetenz nach Artikel 4. Planen Sie für Hochrisiko-KI-Systeme, was bis 2. Dezember 2027 nötig ist: Aufbewahrung der Protokolle für mindestens sechs Monate, Information von Arbeitnehmervertretern und Beschäftigten, Hinweise an betroffene Personen und, wo Artikel 27 greift, eine Grundrechte-Folgenabschätzung.