KI-Inhalte kennzeichnen: Was Unternehmen nach Art. 50 der KI-Verordnung beachten müssen

Chatbots, KI-generierte Bilder und von KI verfasste Texte gehören für Unternehmen oftmals bereits zum Alltag. Nach Art. 50 der europäischen KI-Verordnung (KI-VO) gelten in bestimmten Fällen dafür nun Kennzeichnungspflichten.

Die Transparenzpflichten aus Art. 50 KI-VO gelten grundsätzlich seit dem 2. August 2026. Für Unternehmen kommt es vor allem drauf an, ob sie als Anbieter oder Betreiber von KI-Systemen auftreten.

Zuerst klären: Anbieter oder Betreiber?

Die KI-VO unterscheidet zwischen Anbietern und Betreibern. Anbieter entwickeln ein KI-System selbst oder lassen es entwickeln und bringen es unter eigenem Namen auf den Markt.

Betreiber setzen ein KI-System eines Anbieters in eigener Verantwortung ein. Ein Unternehmen, das einen KI-Dienst bspw. für Kundenkommunikation nutzt, ist daher typischerweise Betreiber dieses Systems.

Die jeweiligen Pflichten nach der KI-VO richten sich nach der Rolle. Anbieter müssen bestimmte KI-Anwendungen technisch transparent gestalten. Betreiber müssen in vorgeschriebenen Situationen Menschen über den Einsatz von KI informieren. Wer eine KI-Anwendung eines Drittanbieters nutzt, sollte deshalb prüfen, welche Pflichten der Anbieter übernimmt und welche bei dem eigenen Unternehmen liegen.

1. Direkte Interaktion: Menschen müssen erkennen können, wenn sie mit KI interagieren

Anbieter müssen KI-Systeme, die direkt mit Menschen interagieren so gestalten, dass die betroffenen Personen erfahren, dass sie mit einem KI-System zu tun haben. Die Information muss dabei von Beginn der ersten Interaktion an, deutlich und unter Beachtung der Anforderungen an die Barrierefreiheit erfolgen. Ein bloßer Hinweis in den Nutzungsbedingungen genügt diesen Anforderungen nicht.

Typische Beispiele sind ein KI-Chatbot im Kundenservice, ein KI-Sprachassistent oder ein digitaler Avatar, mit dem Kunden ein Gespräch führen können. Ein kurzer Hinweis wie „Sie sprechen mit einem KI-Assistenten“ dürfte dabei in der Regel schon ausreichen.

Obwohl sich die Pflicht nach Art. 50 Abs. 1 KI-VO an Anbieter von KI-Systemen richtet, sollten auch Unternehmen, die entsprechende Anwendungen einsetzen, mit dem Anbieter klären, ob und wie ein entsprechender Hinweis umgesetzt wird.

2. Deepfakes

Speziell an Betreiber von KI-Systemen richtet sich Art. 50 Abs. 4 KI-VO. Danach müssen Deepfakes unter den genannten Voraussetzungen gekennzeichnet werden. Ein Deepfake ist nach Art. 3 Nr. 60 KI-VO ein durch KI-erzeugter oder manipulierter Bild-, Ton oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Es kommt daher nicht darauf an, ob die Darstellung tatsächlich so existiert. Die bloße Möglichkeit reicht dafür aus.

Für die Kennzeichnung von entsprechenden Inhalten stellt die EU-Kommission unter dem Link EU-Icons zur Kennzeichnung von KI-generierten Inhalten entsprechende Symbole bereit, die verwendet werden können. Es besteht jedoch auch die Möglichkeit, eigene Kennzeichnungen zu verwenden.

3. KI-Texte: Nicht jeder Entwurf muss gekennzeichnet werden

Für Texte gilt im unternehmerischen Kontext eine enger gefasste Pflicht als bei Deepfakes. Betreiber müssen KI-generierte oder mit KI manipulierte Texte klar kennzeichnen, wenn sie zu dem Zweck veröffentlicht werden, die Öffentlichkeit zu informieren und ein Thema von öffentlichem Interesse behandeln.

Dazu gehören etwa Beiträge über politische Prozesse, Gesundheit-, Umwelt- oder Verbraucherschutz, wirtschaftliche, finanzielle oder wissenschaftliche Entwicklungen. Ein gewöhnlicher rein interner Entwurf oder ein KI-unterstützter Werbetext fällt nicht automatisch darunter.

Eine Kennzeichnung ist dann nicht erforderlich, wenn der Text einer substanziellen menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Was Unternehmen jetzt tun können

• KI-Anwendungen erfassen und Rollen klären
• Als Betreiber: mit Anbieter abstimmen, wie Informations- und Markierungspflichten technisch erfüllt werden können
• Prüfen, ob und in welcher Form eine Interaktion mit Menschen stattfindet, Deepfakes erstellt und verwendet werden und Texte zu einem Thema von öffentlichem Interesse veröffentlicht werden
• Bei Anwendungsfällen von Art. 50 KI-VO entsprechende Hinweise anbringen

Die EU-Kommission stellt ergänzende Leitlinien unter Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme sowie einen FAQ-Bereich unter Transparenzpflichten nach Artikel 50 des KI-Gesetzes zur Verfügung, die ggf. noch die ein oder andere Frage beantworten können.

Die Stellungnahme der DIHK zu den Transparenzpflichten des Art. 50 KI-VO finden Sie unter DIHK: Transparenzpflichten nach Art. 50 KI-Verordnung anwendungsfreundlich gestalten