Hintergrund und Ziele

Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung bestimmter Verordnungen (im Folgenden „KI-Verordnung“) trat am 1. August 2024 in Kraft. Die KI-Verordnung enthält harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Nutzung künstlicher Intelligenz (im Folgenden „KI“) in der Union. Ihr Ziel besteht darin, Innovationen und die Einführung der KI zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte, einschließlich Demokratie und Rechtsstaatlichkeit, zu unterstützen.

Die KI-Verordnung folgt einem risikobasierten Ansatz, bei dem KI-Systeme in vier verschiedene Risikokategorien eingeteilt werden:

(i) Unannehmbares Risiko: KI-Systeme, die unannehmbare Risiken für die Grundrechte und die Werte der Union darstellen, sind nach Artikel 5 der KI- Verordnung verboten.

(ii) Hohes Risiko: KI-Systeme, die ein hohes Risiko für Gesundheit, Sicherheit und Grundrechte darstellen, unterliegen einer Reihe von Anforderungen und Pflichten. Diese Systeme werden nach Artikel 6 der KI-Verordnung in Verbindung mit den Anhängen I und III der KI-Verordnung als „hochriskant“ eingestuft.

(iii) Transparenzrisiko: KI-Systeme, die ein begrenztes Transparenzrisiko bergen, unterliegen den Transparenzpflichten gemäß Artikel 50 der KI-Verordnung. (iv) Minimales bis kein Risiko: KI-Systeme, die ein minimales oder gar kein Risiko bergen, sind nicht reguliert, aber Anbieter und Betreiber können sich fakultativ an freiwillige Verhaltenskodizes halten.

Gemäß Artikel 96 Absatz 1 Buchstabe b der KI-Verordnung erlässt die Kommission Leitlinien für die praktische Umsetzung der nach Artikel 5 der KI-Verordnung verbotenen Praktiken. Diese Verbote gelten sechs Monate nach Inkrafttreten der KI- Verordnung, d. h. ab dem 2. Februar 2025.

Ziel dieser Leitlinien ist es, die Rechtsklarheit zu erhöhen und Einblicke in die Auslegung der Verbote nach Artikel 5 der KI-Verordnung durch die Kommission zu geben, um deren kohärente, wirksame und einheitliche Anwendung zu gewährleisten. Sie sollen als praktische Orientierungshilfen dienen, die den zuständigen Behörden im Rahmen der KI-Verordnung bei ihren Durchsetzungstätigkeiten Hilfestellung leisten und die Anbieter und Betreiber von KI-Systemen dabei unterstützen, die Einhaltung ihrer Verpflichtungen aus der KI-Verordnung sicherzustellen. Mit den Leitlinien wird eine angemessene Auslegung der Verbote angestrebt, damit die Ziele der KI- Verordnung zum Schutz der Grundrechte und der Sicherheit erreicht werden können und gleichzeitig Innovation gefördert und Rechtssicherheit geschaffen wird.

Diese Leitlinien sind nicht verbindlich. Eine verbindliche Auslegung der KI- Verordnung kann letztlich nur vom Gerichtshof der Europäischen Union (EuGH) vorgenommen werden.

In die Ausarbeitung dieser Leitlinien flossen Beiträge verschiedener Interessenträger wie beispielsweise Anbieter und Betreiber von KI-Systemen, Organisationen der Zivilgesellschaft, Hochschulen, Behörden und Wirtschaftsverbände ein, die im Rahmen eines von der Kommission organisierten breit angelegten Konsultationsverfahrens zusammengetragen wurden. Die Mitgliedstaaten im KI-Gremium und das Europäische Parlament wurden ebenfalls konsultiert. Diese Leitlinien werden im Lichte der Erfahrungen mit der praktischen Umsetzung des Artikels 5 der KI-Verordnung sowie der Technologie- und Marktentwicklungen regelmäßig überprüft werden.

Die Anwendung von Artikel 5 der KI-Verordnung erfordert eine Einzelfallprüfung, bei der die konkrete Situation in jedem einzelnen Fall gebührend berücksichtigt wird. Daher haben die in diesen Leitlinien aufgeführten Beispiele lediglich Hinweischarakter und lassen die Notwendigkeit einer solchen Einzelfallprüfung unberührt.