Kennzeichnungspflicht für KI-Chatbots: wer den Hinweis gibt, wo und wie

Artikel 50 Absatz 1 richtet sich an Anbieter. Binden Sie ein fertiges Chat-Widget eines Herstellers wie Intercom, Zendesk oder HubSpot ein, ist in der Regel der Hersteller, der das KI-System unter eigenem Namen in Verkehr bringt, der Anbieter. Ihr Unternehmen ist dann meist Betreiber. Die Leitlinien der Kommission zu Artikel 50 vom 20. Juli 2026 nennen genau dieses Beispiel: Wer einen Chatbot unter eigenem Namen an Unternehmen liefert, die ihn ohne Änderungen in ihre Abläufe einbinden, ist als Anbieter für den Hinweis verantwortlich.

Das kann sich ändern. Nach denselben Leitlinien ist ein Unternehmen Anbieter, wenn es einen Chatbot selbst entwickelt und unter eigenem Namen für die eigene Nutzung in Betrieb nimmt. Wer ein bestehendes generatives KI-System verändert, etwa mit neuen Trainingsdaten, und es unter eigenem Namen in Betrieb nimmt, wird Anbieter des neuen Systems. Ein eigener Bot auf Basis einer Modell-API oder ein unter eigener Marke umgelabeltes System kann Sie also zum Anbieter machen. Wo genau die Grenze liegt, hängt vom Einzelfall ab. Für Hochrisiko-Systeme regelt Artikel 25 eine ähnliche Verschiebung ausdrücklich.

Auch als Betreiber sind Sie nicht außen vor. Meist legen Sie Namen, Avatar, Begrüßung und Platzierung des Widgets fest, und genau das entscheidet, ob Besucher erkennen, dass sie mit KI schreiben. Daneben gilt das Verbraucherschutzrecht: Ist eine KI-Funktion ein wesentliches Merkmal einer Leistung, die Sie verkaufen, kann sie nach den Leitlinien offenzulegen sein, unabhängig davon, ob die Interaktion offensichtlich ist. Prüfen Sie, ob Ihr Hersteller einen Hinweis vorsieht, und achten Sie darauf, dass Ihre eigene Begrüßung ihn nicht verdeckt oder ihm widerspricht.

Die Pflicht aus Artikel 50 Absatz 1 entfällt, wenn die KI-Interaktion aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist. Die Leitlinien knüpfen an den Durchschnittsverbraucher des EU-Verbraucherrechts an, verlangen eine enge Auslegung und beschränken die Ausnahme auf Fälle, in denen fast kein Zweifel bleibt. Dass Menschen wissen, dass es Chatbots gibt, heißt nicht, dass sie einen im Gespräch erkennen.

Weniger offensichtlich wird KI laut Leitlinien durch menschlich klingende Texte oder Stimmen, ein Profilbild mit einem Menschen und stark personalisierte Antworten. Kann die breite Öffentlichkeit den Bot nutzen, einschließlich Kindern, älteren Menschen oder Personen mit geringer KI-Kompetenz, greift die Ausnahme nicht. Beispiele, in denen sie greifen kann, sind Coding-Assistenten nur für Entwickler und interne Tools für geschulte Mitarbeitende. KI-Chatbots in Helpdesks, deren Antworten Nutzer für menschlich halten könnten, brauchen laut Leitlinien einen Hinweis. Für einen Kunden-Chatbot auf Ihrer Website sollten Sie also mit dem Hinweis planen.

Nach Artikel 50 Absatz 5 muss die Information spätestens bei der ersten Interaktion klar und eindeutig erfolgen. Die Leitlinien sehen den Start eines Gesprächs mit dem Chatbot als erste Interaktion und halten einen einzigen, gut sichtbaren Hinweis davor in den meisten Fällen für ausreichend. Ein Hinweis nur in AGB, Datenschutzerklärung oder verlinkten Dokumenten genügt allein nicht, ebenso wenig allgemeine Bezeichnungen wie „Assistent“ oder technische Angaben wie „nutzt LLMs“.

In der Praxis ergänzen sich drei Stellen. Ein kurzer Text am oder neben dem Chat-Button informiert, bevor jemand den Chat öffnet. Die erste Nachricht des Bots sagt klar, dass es sich um ein KI-System handelt. Ein kleiner dauerhafter Hinweis nahe dem Eingabefeld bleibt sichtbar, passend zur Empfehlung der Leitlinien, Hinweise nahe der Interaktion zu platzieren. Bei längeren oder sensiblen Gesprächen, etwa zu Gesundheit, Finanzen, Versicherungen, Rechtsfragen oder Beschwerden, halten die Leitlinien regelmäßige Erinnerungen für wahrscheinlich nötig, und der Bot sollte auf die Frage, ob er ein Mensch ist, immer wahrheitsgemäß antworten.

Auch die Übergabe an einen Menschen braucht Klarheit. Übernimmt eine Person, sagen Sie es, etwa „Sie schreiben jetzt mit [Name] aus unserem Support-Team“, und sagen Sie es erneut, wenn wieder der Bot antwortet. Die Leitlinien stellen klar, dass Produkte, die KI-Antworten mit menschlichen mischen, unter Artikel 50 Absatz 1 fallen und die KI-Anteile offenlegen müssen, es sei denn, Menschen prüfen und versenden diese Antworten als eigentliche Gesprächspartner. Ein menschlich wirkender Avatar oder ein Vorname für den Bot arbeitet gegen Sie.

Die folgenden Texte sind Beispiele, keine Rechtsberatung, und keine Formulierung garantiert Rechtssicherheit. Ersetzen Sie die Platzhalter, versprechen Sie nur eine Übergabe, die es wirklich gibt, und testen Sie den Text im Widget. Förmlich, erste Nachricht: „Guten Tag, ich bin der KI-Assistent von [Firma]. Ich bin ein KI-System und kein Mensch, meine Antworten können Fehler enthalten. Schreiben Sie ‚Team‘, wenn Sie mit unseren Mitarbeitenden sprechen möchten.“ Förmlich, kurze Zeile am Chat-Button oder Eingabefeld: „Sie chatten mit einem KI-System. Die Antworten werden automatisch erzeugt.“

Informell mit Du, erste Nachricht: „Hi, ich bin ein KI-Assistent, kein Mensch. Meine Antworten entstehen automatisch und können Fehler enthalten. Schreib ‚Team‘, wenn du lieber mit einem Menschen sprichst.“ Für englischsprachige Besucher, erste Nachricht: "Hi, I'm the AI assistant of [company]. I'm an AI system, not a person, and I can make mistakes. Type 'human' at any time to reach our team." Englisch, kurze Zeile: "You are chatting with an AI system. Replies are generated automatically."

Voicebot oder Telefon, ganz am Anfang gesprochen: „Guten Tag, Sie sind mit [Firma] verbunden. Sie sprechen mit einem automatischen KI-Assistenten, nicht mit einem Menschen. Sagen Sie jederzeit ‚Mitarbeiter‘, um mit unserem Team zu sprechen.“ Englisch: "Hello, you have reached [company]. You are speaking with an automated AI assistant, not a person. Say 'team' at any time to speak to one of our staff." Die Leitlinien ergänzen, dass Signaltöne die Erkennung unterstützen, allein aber nicht ausreichen, und dass längere Gespräche oder Unterbrechungen Erinnerungen nahelegen.

Artikel 50 Absatz 5 verlangt, dass die Information den geltenden Barrierefreiheitsanforderungen entspricht, und Erwägungsgrund 132 fordert barrierefreie Formate für Menschen mit Behinderungen. Die Leitlinien verweisen auf bestehendes EU-Recht wie den European Accessibility Act (Richtlinie (EU) 2019/882) und die Richtlinie über barrierefreie Websites öffentlicher Stellen und stellen klar, dass Artikel 50 keine eigenen Anforderungen hinzufügt. Ob diese Regeln für Ihre Website gelten, ist eine eigene Prüfung. Ein barrierefreier Hinweis ist aber in jedem Fall die sichere Wahl.

Praktisch heißt das: Der Hinweis ist echter Text, nicht nur ein Icon oder eine Farbe. Screenreader sollten ihn vorlesen. Setzen Sie ihn in die erste Nachricht, geben Sie neue Nachrichten über eine Live-Region aus, versehen Sie ein KI-Icon mit einem zugänglichen Namen wie „KI-Assistent“ und achten Sie darauf, dass der Tastaturfokus beim Öffnen des Chats richtig springt. Nutzen Sie einfache Sprache und ausreichenden Kontrast. Nutzen voraussichtlich Kinder oder Menschen mit geringer digitaler Kompetenz den Bot, verlangen die Leitlinien einfache, altersgerechte Formulierungen.

Der kostenlose Scan lädt Ihre Website und erkennt verbreitete Chat-Widgets wie Intercom, Zendesk, HubSpot, Tidio oder Userlike an ihren Skripten und Seitenelementen. Danach sucht er im Seitentext nach Formulierungen auf Deutsch und Englisch, die Besuchern sagen, dass sie es mit einem KI-System zu tun haben, und zitiert, was er findet. Das Ergebnis zeigt, ob ein Chatbot erkannt wurde und ob daneben passende Hinweisformulierungen gefunden wurden.

Ein Scan sieht nicht alles. Manche Begrüßungen laden erst, wenn jemand den Chat öffnet, liegen in einem Frame des Herstellers oder hängen von Cookie-Einstellungen ab, und ein erkanntes Widget kann auch mit festen Regeln statt mit KI arbeiten. Fehlt ein Hinweis im Ergebnis, öffnen Sie den Chat selbst und prüfen Sie Button, erste Nachricht und Übergabe. Der Scan ist ein Ausgangspunkt, keine rechtliche Bewertung.