KI-Kennzeichnung:Was Ihr Chatbotsagen muss

Was regelt Artikel 50 der KI-Verordnung?

Artikel 50 trägt die Überschrift „Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme“ und gilt nach Artikel 113 der Verordnung seit dem 2. August 2026. Man liest ihn leicht zu weit: Eine allgemeine Kennzeichnungspflicht für jeden Text, bei dem eine KI geholfen hat, enthält er nicht. Er beschreibt einzelne Fälle, und für jeden Fall ist klar geregelt, wer handeln muss.

Für Betriebe mit Kundenkontakt sind drei Fälle entscheidend: die direkte Interaktion mit einem KI-System, also Chat und Telefon (Absatz 1), die maschinenlesbare Markierung erzeugter Inhalte (Absatz 2) und die Offenlegung von Deepfakes (Absatz 4). Absatz 3 betrifft Systeme zur Emotionserkennung und biometrischen Kategorisierung, deren Betreiber die betroffenen Personen informieren müssen. Absatz 5 legt fest, wann und wie informiert wird: spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung, in klarer und eindeutiger Weise und barrierefrei.

Was gehört in die erste Nachricht Ihres Chatbots?

Artikel 50 schreibt keinen festen Wortlaut vor. Maßgeblich ist, dass der Hinweis spätestens bei der ersten Interaktion kommt, klar und eindeutig ist und den Anforderungen an Barrierefreiheit entspricht. Ein Satz in den AGB oder in der Datenschutzerklärung erreicht den Kunden im Moment des Gesprächs nicht. Der Hinweis gehört dorthin, wo das Gespräch beginnt.

Gut funktioniert aus unserer Sicht eine Begrüßung, die in einem Atemzug sagt, dass eine KI antwortet, wobei sie hilft und wie man einen Menschen erreicht. Aus der Pflicht wird so fast nebenbei ein Service, weil der Kunde sofort weiß, woran er ist.

Für den Website-Chat: „Hallo, hier antwortet unser KI-Assistent. Ich helfe Ihnen bei Fragen zu Terminen, Leistungen und Öffnungszeiten. Möchten Sie lieber mit einem Mitarbeiter sprechen, schreiben Sie einfach ‚Mensch‘.“

Für den Messenger-Bot, etwa auf WhatsApp: „Guten Tag, Sie schreiben mit dem digitalen Assistenten von [Betrieb]. Das ist eine KI. Ich nehme Ihre Anfrage auf und leite sie an unser Team weiter.“

Für den Telefonassistenten: „Guten Tag, Sie sprechen mit der KI-Assistenz von [Betrieb]. Ich nehme Ihr Anliegen auf und sorge dafür, dass Sie zurückgerufen werden.“ Am Telefon gibt es kein Chatfenster, deshalb gehört der Hinweis in die gesprochene Begrüßung, vor der ersten Frage an den Anrufer.

Weniger geeignet sind Hinweise, die man leicht übersieht, etwa ein kleines Symbol ohne Text oder eine Fußnote unter dem Eingabefeld. Heikel finden wir auch einen Namen, der wie eine echte Mitarbeiterin klingt, ohne dass der KI-Charakter genannt wird.

Welche KI-Bilder, Videos und Stimmen müssen Sie kennzeichnen?

Ein Deepfake ist nach Artikel 3 Nr. 60 ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Wer solche Inhalte mit einem KI-System erzeugt oder verändert und beruflich einsetzt, muss offenlegen, dass sie künstlich erzeugt oder manipuliert sind.

Für Werbung und Social Media bedeutet das ganz konkret: Sieht ein KI-Foto so aus, als wäre es in Ihrer Werkstatt aufgenommen, oder klingt eine KI-Stimme wie eine reale Person, braucht es einen Hinweis, den man sehen oder hören kann. Etwas großzügiger ist die Regel bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken, dort reicht ein Hinweis, der die Darstellung nicht stört.

Offenlegen muss man auch KI-Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Das entfällt allerdings, sobald ein Mensch den Text geprüft oder redaktionell kontrolliert hat und eine Person die redaktionelle Verantwortung dafür trägt.

Wer kontrolliert die Transparenzpflichten in Deutschland?

Mit dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), in Kraft seit dem 29. Juli 2026, ist die Bundesnetzagentur zentrale Anlaufstelle, Marktüberwachungsbehörde und Beschwerdestelle für die KI-Verordnung. In regulierten Bereichen behalten die bestehenden Fachbehörden ihre Zuständigkeit, die Bundesnetzagentur koordiniert.

Für Unternehmen hat die Bundesnetzagentur einen KI-Service-Desk eingerichtet. Dort finden Sie eine eigene Seite zu den Transparenzpflichten, einen KI-Compliance-Kompass zur ersten Orientierung, FAQ und ein Kontaktformular. Eine Einordnung für kleine und mittlere Unternehmen und Start-ups stellt die Behörde gesondert bereit.

Verstöße gegen Artikel 50 können nach Artikel 99 mit Geldbußen bis 15 Millionen Euro oder bis 3 Prozent des weltweiten Jahresumsatzes geahndet werden. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Beträge. Bei der Höhe werden laut Verordnung alle Umstände des Einzelfalls berücksichtigt, etwa Art, Schwere und Dauer des Verstoßes.