Verbotene KI-Praktiken der EU-KI-Verordnung

Artikel 5 verlangt keine Risikobewertung. Er verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung einer kurzen Liste von Praktiken. Ein Unternehmen, das ein solches System nur nutzt, ist damit ebenso erfasst wie der Anbieter, der es entwickelt hat. Die Liste umfasst schädliche Manipulation und Ausnutzung, Social Scoring, individuelle Straftatenprognose, ungezieltes Auslesen von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, biometrische Kategorisierung nach sensiblen Merkmalen sowie biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken. All das ist seit dem 2. Februar 2025 verboten.

Die Leitlinien der Kommission C(2025) 5052 final legen jedes Verbot Voraussetzung für Voraussetzung aus; diese Website gibt sie kapitelweise wieder. Zwei Punkte gehören in jede interne Bewertung. Die Verbote setzen mehrere kumulative Voraussetzungen voraus, eine Praxis, die einer Überschrift ähnelt, ist also nicht automatisch verboten. Und Artikel 5 Absatz 8 lässt das übrige Unionsrecht unberührt: Eine Praxis außerhalb von Artikel 5 kann weiterhin gegen Datenschutz-, Verbraucher- oder Arbeitsrecht verstoßen.

Artikel 5 Absatz 1 Buchstabe a verlangt vier kumulative Voraussetzungen: Das System wird in Verkehr gebracht, in Betrieb genommen oder verwendet; es setzt unterschwellige Techniken außerhalb des Bewusstseins oder absichtlich manipulative oder täuschende Techniken ein; diese haben das Ziel oder die Wirkung, das Verhalten wesentlich zu verändern, indem sie die Fähigkeit zu einer informierten Entscheidung spürbar beeinträchtigen; und das veränderte Verhalten verursacht einen erheblichen Schaden oder kann ihn verursachen. Zulässige Überzeugungsarbeit bleibt nach den Leitlinien außerhalb des Verbots.

Artikel 5 Absatz 1 Buchstabe b folgt derselben Struktur, stellt aber auf das Ziel statt auf die Technik ab: das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage. Eine überzeugende Werbung oder ein gewöhnliches personalisiertes Angebot ist nicht erfasst. Gemeint ist der Fall, dass ein System eine finanzielle Notlage erkennt und diesen Zustand nutzt, um eine schädliche Entscheidung herbeizuführen. Der erhebliche Schaden bemisst sich nach Schwere, Kontext und kumulativer Wirkung.

Nicht automatisch. Artikel 5 Absatz 1 Buchstabe c verbietet die Bewertung oder Einstufung von Personen über einen bestimmten Zeitraum anhand ihres sozialen Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Merkmale, wenn die soziale Bewertung zu einer Schlechterstellung in Kontexten führt, die mit dem ursprünglichen Erhebungskontext in keinem Zusammenhang stehen, oder zu einer im Verhältnis zum Verhalten ungerechtfertigten oder unverhältnismäßigen Behandlung. Nach den Leitlinien gilt das Verbot im öffentlichen wie im privaten Bereich und ist nicht branchengebunden.

Die übliche Bonitätsbewertung fällt nicht darunter. Die Prüfung der Kreditwürdigkeit natürlicher Personen ist in Anhang III Nummer 5 Buchstabe b als hochriskant gelistet, also reguliert und nicht verboten; die Betrugserkennung ist ausgenommen. Entscheidend ist die Weiterverwendung von Daten über Kontexte hinweg: Ein Score aus Social-Media-Verhalten, der über den Zugang zu einer unverbundenen Leistung entscheidet, liegt dem Verbot deutlich näher als ein Score aus der Zahlungshistorie für eine Kreditentscheidung.

Artikel 5 Absatz 1 Buchstabe d verbietet KI-Systeme, die das Risiko, dass eine natürliche Person eine Straftat begeht, allein auf Grundlage von Profiling oder der Bewertung von Persönlichkeitsmerkmalen vorhersagen. Nicht verboten sind Systeme, die eine menschliche Bewertung der Beteiligung an einer Straftat unterstützen, wenn diese bereits auf objektiven und überprüfbaren Tatsachen mit unmittelbarem Bezug beruht. Artikel 5 Absatz 1 Buchstabe e verbietet daneben Aufbau und Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachung, ohne Ausnahme für private oder Forschungszwecke.

Artikel 5 Absatz 1 Buchstabe f verbietet KI, die Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen ableitet, außer das System ist aus medizinischen Gründen oder Sicherheitsgründen bestimmt. Die Leitlinien verstehen den Arbeitsplatz weit: jeder physische oder virtuelle Raum, in dem Menschen Aufgaben erfüllen, die ihnen von einem Arbeitgeber oder ihrer Organisation übertragen wurden, unabhängig vom Status als Beschäftigte, Auftragnehmer, Praktikanten oder Freiwillige. Erfasst sind auch Bewerberinnen und Bewerber im Auswahlverfahren.

Artikel 5 Absatz 1 Buchstabe g verbietet die biometrische Kategorisierung, die Personen anhand biometrischer Daten einzeln einordnet, um Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung abzuleiten. Das Kennzeichnen oder Filtern rechtmäßig erworbener biometrischer Datensätze ist nicht erfasst. Wo diese Anwendungen nicht verboten sind, bleiben sie reguliert: Beide stehen in Anhang III Nummer 1 als hochriskant, und Betreiber müssen die betroffenen Personen nach Artikel 50 Absatz 3 informieren.

Die Verordnung (EU) 2026/1744 hat Artikel 5 Absatz 1 um zwei Verbote ergänzt. Buchstabe ba erfasst KI-Systeme, die realistische intime Darstellungen einer identifizierbaren natürlichen Person ohne deren Einwilligung erzeugen oder manipulieren; Buchstabe bb erfasst KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen oder manipulieren. Beide gelten ab dem 2. Dezember 2026 und fallen in dieselbe Bußgeldstufe wie der übrige Artikel 5: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes (Artikel 99 Absatz 3).

Für die meisten KMU ist die praktische Aufgabe überschaubar. Die biometrische Echtzeit-Fernidentifizierung nach Artikel 5 Absatz 1 Buchstabe h richtet sich an die Strafverfolgung und setzt nationales Recht, eine vorherige gerichtliche oder unabhängige Genehmigung und eine Grundrechte-Folgenabschätzung voraus (Artikel 5 Absatz 2 und 3). Relevant sind dagegen Emotionsanalysen in HR- oder Kundenkontakt-Tools, Scoring-Funktionen, die Daten über Kontexte hinweg weiterverwenden, und generative Bildfunktionen. Fragen Sie jeden Anbieter schriftlich danach.