Artikel 5 Absatz 1 Buchstabe E der KI-Verordnung – Ungezieltes Auslesen von Gesichtsbildern

Das ungezielte Auslesen von Gesichtsbildern aus dem Internet und aus Überwachungsaufnahmen beeinträchtigt die Rechte der betroffenen Personen auf den Schutz der Privatsphäre und Datenschutz erheblich und verweigert diesen Personen das Recht, anonym zu bleiben. Erwägungsgrund 43 der KI-Verordnung rechtfertigt daher das in Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung festgelegte Verbot auf der Grundlage des „Gefühl[s] der Massenüberwachung“ und der Gefahr von „schweren Verstößen gegen die Grundrechte, einschließlich des Rechts auf Privatsphäre“.

Damit das Verbot nach Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung gilt, müssen mehrere kumulative Bedingungen erfüllt sein:

(i) Die Praxis muss das „Inverkehrbringen“, die „Inbetriebnahme für diesen spezifischen Zweck“ oder die „Verwendung“ eines KI-Systems darstellen; (ii) für die Zwecke der Erstellung oder Erweiterung von Datenbanken zur Gesichtserkennung;

(iii) die Mittel zur Befüllung der Datenbank sind KI-Instrumente für ungezieltes Auslesen und (iv) die Bildquellen sind entweder das Internet oder Überwachungsaufnahmen.

Damit das Verbot Anwendung finden kann, müssen alle vier Bedingungen gleichzeitig erfüllt sein. Das erste Element, d. h. das Inverkehrbringen, die Inbetriebnahme oder die Verwendung des KI-Systems, wurde bereits in Abschnitt 2. analysiert. Das Verbot gilt daher sowohl für Anbieter als auch für Betreiber von KI-Systemen im Rahmen ihrer jeweiligen Verantwortung dafür, solche Systeme nicht in Verkehr zu bringen, in Betrieb zu nehmen oder zu verwenden. Die spezifischen Kriterien für das Verbot des ungezielten Auslesens werden im Folgenden näher beschrieben und analysiert. Das Verbot gilt für Ausleseinstrumente, die „für diesen spezifischen Zweck“ des ungezielten Auslesens von Gesichtsbildern aus dem Internet oder Überwachungsaufnahmen in Verkehr gebracht oder in Betrieb genommen werden. Dies bedeutet, dass das Verbot nicht für Ausleseinstrumente gilt, mit denen eine Datenbank zur Gesichtserkennung aufgebaut oder erweitert werden kann, sondern nur für Instrumente zum ungezielten Auslesen.

6... Datenbanken zur Gesichtserkennung

Das Verbot in Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung gilt für KI-Systeme, die zur Erstellung oder Erweiterung von Datenbanken zur Gesichtserkennung verwendet werden. Unter „Datenbank“ ist in diesem Zusammenhang jede Sammlung von Daten oder Informationen zu verstehen, die speziell für eine schnelle Suche und Abfrage durch einen Computer aufgebaut ist. Eine Datenbank zur Gesichtserkennung ist in der Lage, ein menschliches Gesicht von einem digitalen Bild oder einer Videoaufnahme mit einer Datenbank für Gesichter abzugleichen, es mit Bildern in der Datenbank zu vergleichen und festzustellen, ob zwischen beiden Gesichtern eine Übereinstimmung wahrscheinlich ist. Eine solche Datenbank zur Gesichtserkennung kann temporär, zentral oder dezentral sein. Artikel 5 Absatz 1 Buchstabe e schreibt nicht vor, dass der alleinige Zweck der Datenbank in der Nutzung für die Gesichtserkennung bestehen muss; es reicht aus, dass die Datenbank für die Gesichtserkennung genutzt werden kann.

6... Durch ungezieltes Auslesen von Gesichtsbildern

„Auslesen“ bezieht sich in der Regel auf die Verwendung von Webcrawlern, Bots oder anderen Mitteln zur automatischen Extrahierung von Daten oder Inhalten aus verschiedenen Quellen, einschließlich Überwachungsaufnahmen, Websites oder sozialen Medien. Bei diesen Instrumenten handelt es sich um Software, die dazu programmiert wurde, Datenbanken zu durchforsten, Informationen zu extrahieren und diese Informationen für einen anderen Zweck zu nutzen.

„Ungezielt“ bezieht sich auf eine Technik, die wie ein „Staubsauger“ funktioniert und so viele Daten und Informationen wie möglich aufnimmt, ohne auf speziell und individuell bestimmte Subjekte für das Auslesen abzuzielen. Durch das Auslesen werden Daten oder Inhalte wahllos „geerntet“. Somit bedeutet der Begriff „ungezielt“, dass kein besonderer Schwerpunkt auf bestimmte Einzelpersonen oder eine bestimmte Gruppe von Einzelpersonen gelegt wird. Die Befolgung von Internetprotokollen zur Verweigerung der Zustimmung wie robot.txt hat keinen Einfluss auf den ungezielten Charakter des Auslesens.

Wird ein Ausleseinstrument angewiesen, nur Bilder oder Videos zu sammeln, die menschliche Gesichter von bestimmten Personen oder einer vordefinierten Gruppe von Personen enthalten, dann erhält das Auslesen ein Ziel, beispielsweise einen bestimmten Straftäter zu finden oder eine Gruppe von Opfern zu identifizieren. Ein solches Auslesen fällt nicht unter das Verbot in Artikel 5 Absatz 1 Buchstabe e der KI- Verordnung.

So fällt beispielsweise das gezielte Sammeln von Bildern mit Schwerpunkt auf einer bestimmten Kategorie von Opfern, indem Crawler zum Einsammeln von Bildern von Opfern verwendet werden, die von Menschenhändlern in Social-Media-Kanäle eingestellt wurden, nicht unter das Verbot. Ungezieltes Auslesen sollte so ausgelegt werden, dass eine Umgehung des Verbots nicht möglich ist. Aus Auslesen aus dem Internet oder von Überwachungsaufnahmen zur schrittweisen Erstellung einer Datenbank, wobei jeweils bestimmte Gruppen von Einzelpersonen oder andere Kriterien ausgewählt werden, sollte unter das Verbot des Artikels 5 Absatz 1 Buchstabe e der KI-Verordnung fallen, wenn das Endergebnis funktional das gleiche ist wie bei einer Vorgehensweise, bei der von Beginn an ungezielt ausgelesen wird.

Werden in Systemen gezielte Suchen nach Bildern oder Videos mit ungezielten Suchen kombiniert, ist das ungezielte Auslesen verboten.

6... Aus dem Internet und von Überwachungsaufnahmen

Damit das Verbot nach Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung gilt, kann die Quelle der Gesichtsbilder entweder das Internet oder Material aus Überwachungsaufnahmen sein. Was das Internet betrifft, so bedeutet der Umstand, dass eine Person Gesichtsbilder von sich selbst auf einer Plattform sozialer Medien veröffentlicht hat, nicht, dass sie der Aufnahme dieser Bilder in eine Datenbank zur Gesichtserkennung zugestimmt hat. Beispiele für das Auslesen von Gesichtsbildern aus Überwachungsaufnahmen sind Bilder, die von Überwachungskameras erfasst wurden, die an Orten wie Flughäfen, Straßen, Parks usw. betrieben werden. Beispiel:

Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern. Die im Besitz des Unternehmens befindlichen Fotos wurden mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (z. B. Facebook, YouTube, Twitter, Venmo) ausgelesen. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt. Das hochgeladene Bild wird dieselbe mathematische Umwandlung durchlaufen wie die ausgelesenen Bilder.

Erhält ein KI-System ein Bild einer Person und sucht das Gesicht im Internet, um Übereinstimmungen zu finden, d. h. es arbeitet als Bildsuchmaschine in Reverse- Engineering-Technologie, so gilt dies als gezieltes Auslesen. Darüber hinaus ist fraglich, ob die Übereinstimmungen in einer „Datenbank“ erscheinen würden.

Das Verbot in Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung gilt nicht für das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (z. B. Proben menschlicher Stimmen). Das Verbot gilt auch nicht, wenn an der Auslesung keine KI- Systeme beteiligt sind. Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden, fallen ebenfalls nicht in den Anwendungsbereich, beispielsweise Gesichtsbilddatenbanken, die für Trainings- oder Testzwecke von KI- Modellen verwendet werden, wenn die Personen nicht identifiziert sind.

Das Verbot in Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung gilt nicht für KI- Systeme, die große Mengen an Gesichtsbildern aus dem Internet sammeln, um KI- Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln, da solche Systeme nicht zur Erkennung echter Personen führen würden. KI-Systeme dieser Art könnten unter die Transparenzanforderungen des Artikels 50 der KI-Verordnung fallen.

Das Verbot in Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung gilt für KI-Systeme, die zur Erstellung oder Erweiterung von Datenbanken zur Gesichtserkennung verwendet werden. Was bestehende Gesichtsdatenbanken betrifft, die vor dem Inkrafttreten des Verbots eingerichtet wurden und nicht durch KI-gestütztes ungezieltes Auslesen erweitert werden, so müssen diese Datenbanken und ihre Nutzung den geltenden Datenschutzvorschriften der Union entsprechen.

Das Verbot in Artikel 5 Absatz 1 Buchstabe e der KI-Verordnung zielt auf die Erstellung oder Erweiterung von Datenbanken zur Gesichtserkennung ab. Der konkrete Vorgang der biometrischen Erkennung unterliegt besonderen Vorschriften der KI- Verordnung und anderer einschlägiger Rechtsvorschriften der Union.

In Bezug auf das Datenschutzrecht der Union wäre das ungezielte Auslesen aus dem Internet oder aus Überwachungsaufnahmen für den Aufbau oder die Erweiterung von Datenbanken zur Gesichtserkennung, d. h. die Verarbeitung personenbezogener Daten (Erhebung von Daten und Nutzung von Datenbanken), rechtswidrig und die Berufung auf eine Rechtsgrundlage nach der DSGVO, der EU-DSVO und der Richtlinie zum Datenschutz bei der Strafverfolgung wäre nicht möglich.