KI-Kennzeichnungspflicht – was Sie als Unternehmen jetzt beachten müssen

Die KI-Kennzeichnungspflicht sorgt seit dem Inkrafttreten der neuen Transparenzregeln des EU AI Acts für viele Fragen bei Unternehmen. Müssen künftig alle mit ChatGPT erstellten Texte gekennzeichnet werden? Was gilt für KI-Bilder, Videos, Chatbots und Social-Media-Beiträge?

Eine pauschale Kennzeichnungspflicht für jeden KI-unterstützten Inhalt gibt es nicht. Entscheidend ist vielmehr, wie die künstliche Intelligenz eingesetzt wird, welcher Inhalt entsteht und ob Nutzerinnen und Nutzer über dessen Ursprung oder Echtheit getäuscht werden könnten. 

In diesem Beitrag erfahren Sie, wann eine Kennzeichnung erforderlich ist, welche Ausnahmen gelten und welche Schritte Unternehmen jetzt umsetzen sollten.

Was ist die neue KI-Kennzeichnungspflicht? 

Die sogenannte KI-Kennzeichnungspflicht ist Teil des EU AI Acts und gilt seit dem 2. August 2026. Sie soll dafür sorgen, dass Menschen erkennen können, wenn sie mit einem KI-System interagieren oder künstlich erzeugte beziehungsweise manipulierte Inhalte sehen. Betroffen sind unter anderem Chatbots, Deepfakes sowie bestimmte KI-generierte Texte, Bilder, Audioaufnahmen und Videos.

Dabei gibt es keine pauschale Pflicht, jeden mit KI erstellten Inhalt sichtbar zu kennzeichnen. Je nach Anwendungsfall kann eine Information für Nutzer, eine sichtbare Kennzeichnung oder eine technische, maschinenlesbare Markierung erforderlich sein. Entscheidend sind die Art des Inhalts, der konkrete Einsatz der KI und die Frage, ob Menschen über dessen Ursprung oder Echtheit getäuscht werden könnten.

Für wen gelten die neuen Vorschriften? 

Die neuen Transparenzpflichten können grundsätzlich alle Unternehmen, Organisationen und Selbstständigen betreffen, die KI-Systeme entwickeln, anbieten oder beruflich einsetzen. Dabei unterscheidet der EU AI Act vor allem zwischen Anbietern und Betreibern:

• Anbieter von KI-Systemen: Unternehmen, die KI-Anwendungen entwickeln und auf den Markt bringen. Sie müssen unter anderem sicherstellen, dass KI-generierte oder manipulierte Inhalte technisch erkennbar sind.
• Betreiber von KI-Systemen: Unternehmen, Behörden, Organisationen oder Selbstständige, die KI im beruflichen Umfeld einsetzen – beispielsweise für Chatbots, Bilder, Videos oder redaktionelle Inhalte.
• Agenturen und Dienstleister: Auch wer KI-Inhalte im Auftrag von Kunden erstellt oder veröffentlicht, kann von den Vorgaben betroffen sein.
• Kleine Unternehmen und Selbstständige: Die Pflichten gelten nicht nur für große Konzerne. Entscheidend ist der konkrete Einsatz der KI, nicht die Unternehmensgröße.
• Privatpersonen: Die rein private und nicht berufliche Nutzung von KI fällt grundsätzlich nicht unter diese Vorschriften.

In welchen Fällen muss KI gekennzeichnet werden? 

Eine Kennzeichnung oder Information ist vor allem dann erforderlich, wenn Menschen nicht eindeutig erkennen können, dass sie mit einer KI interagieren oder einen künstlich erzeugten beziehungsweise manipulierten Inhalt sehen. Die Vorgaben unterscheiden dabei zwischen sichtbaren Hinweisen für Nutzer und technischen Markierungen, die eine maschinelle Erkennung ermöglichen.

• Chatbots und KI-Assistenten: Nutzer müssen grundsätzlich darüber informiert werden, dass sie mit einem KI-System und nicht mit einem Menschen kommunizieren. Eine Ausnahme kann gelten, wenn dies aufgrund der Situation bereits offensichtlich ist.
• KI-generierte oder manipulierte Bilder, Videos und Audiodateien: Anbieter der verwendeten KI-Systeme müssen dafür sorgen, dass solche Inhalte in einem maschinenlesbaren Format markiert und technisch als künstlich erzeugt oder verändert erkannt werden können.
• Deepfakes: Werden reale Personen, Orte, Gegenstände oder Ereignisse durch KI täuschend echt dargestellt oder wesentlich verändert, muss der künstliche Ursprung klar offengelegt werden.
• Texte zu Themen von öffentlichem Interesse: Vollständig oder wesentlich durch KI erzeugte Texte müssen gekennzeichnet werden, wenn sie veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren. Eine Ausnahme besteht insbesondere dann, wenn eine menschliche redaktionelle Prüfung stattgefunden hat und eine Person oder ein Unternehmen die Verantwortung für den Inhalt übernimmt.
• Emotionserkennung und biometrische Kategorisierung: Betroffene Personen müssen informiert werden, wenn entsprechende KI-Systeme eingesetzt werden, beispielsweise um Emotionen zu analysieren oder Menschen anhand biometrischer Merkmale bestimmten Kategorien zuzuordnen.

Muss jeder mit ChatGPT erstellte Text gekennzeichnet werden? 

Nein, nicht jeder mit ChatGPT erstellte oder überarbeitete Text muss automatisch als KI-Inhalt gekennzeichnet werden. Entscheidend ist, wie stark die KI an der Erstellung beteiligt war, um welche Art von Inhalt es sich handelt und ob eine menschliche Prüfung stattgefunden hat.

Eine Kennzeichnung kann insbesondere bei weitgehend KI-generierten Texten zu Themen von öffentlichem Interesse erforderlich sein. Wird ein Text dagegen nur sprachlich optimiert, redaktionell geprüft und anschließend von einem Unternehmen verantwortet veröffentlicht, besteht in der Regel keine pauschale Kennzeichnungspflicht.

Was gilt für Marketing und Social Media? 

Auch im Marketing und in sozialen Netzwerken muss nicht jeder KI-unterstützte Inhalt gekennzeichnet werden. Ein mit ChatGPT formulierter Werbetext oder ein KI-generiertes Symbolbild löst nicht automatisch eine sichtbare Hinweispflicht aus. Unternehmen sollten jedoch besonders vorsichtig sein, wenn künstliche Inhalte real wirken und bei Betrachtern ein falscher Eindruck entstehen könnte.

Kennzeichnungspflichtig können insbesondere Deepfakes sein, etwa täuschend echte Bilder, Stimmen oder Videos realer Personen. Auch künstlich erzeugte Testimonials oder vermeintlich reale Ereignisse sollten klar als KI-generiert erkennbar sein. Bei Beiträgen zu Themen von öffentlichem Interesse kann zudem eine Kennzeichnung erforderlich werden, wenn der Text maßgeblich durch KI erstellt und ohne menschliche redaktionelle Prüfung veröffentlicht wurde.

Wie sollte eine Kennzeichnung aussehen? 

Eine Kennzeichnung muss klar, verständlich und für Nutzer gut wahrnehmbar sein. Der Hinweis sollte möglichst direkt am jeweiligen Inhalt stehen und spätestens dann sichtbar werden, wenn die Person den KI-generierten oder manipulierten Inhalt erstmals sieht. Ein versteckter Hinweis im Impressum oder in den allgemeinen Nutzungsbedingungen dürfte dafür in der Regel nicht ausreichen. Je nach Medium kann die Kennzeichnung beispielsweise in der Bildunterschrift, am Anfang eines Beitrags oder als Einblendung in einem Video erfolgen.

Geeignete Formulierungen sind zum Beispiel:

Die EU stellt außerdem freiwillig nutzbare Symbole für KI-generierte Inhalte zur Verfügung. Diese können den schriftlichen Hinweis ergänzen, ersetzen aber nicht automatisch eine rechtlich ausreichende Kennzeichnung. Welche Form notwendig ist, hängt daher weiterhin vom jeweiligen Inhalt und seinem Einsatz ab.

Welche Ausnahmen gibt es? 

Nicht jeder Einsatz von KI führt automatisch zu einer Kennzeichnungspflicht. Ausnahmen gelten insbesondere in folgenden Fällen:

• Menschlich geprüfte Texte: Bei KI-generierten Texten zu Themen von öffentlichem Interesse kann die Kennzeichnung entfallen, wenn eine fachkundige menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat und eine Person oder ein Unternehmen die Verantwortung für die Veröffentlichung übernimmt.
• Unwesentliche Bearbeitungen: Übliche Korrekturen, Formatierungen oder sprachliche Überarbeitungen müssen grundsätzlich nicht als KI-generiert gekennzeichnet werden, sofern die KI den Inhalt nicht wesentlich verändert.
• Offensichtliche KI-Interaktion: Ist für Nutzer aufgrund der Situation eindeutig erkennbar, dass sie mit einer KI kommunizieren, kann ein zusätzlicher Hinweis entbehrlich sein.
• Künstlerische oder satirische Inhalte: Bei erkennbar künstlerischen, kreativen, satirischen oder fiktionalen Werken darf die Offenlegung so gestaltet werden, dass sie die Darstellung und Nutzung des Werks nicht beeinträchtigt.

Ob tatsächlich eine Ausnahme greift, hängt immer vom konkreten Inhalt und dessen Verwendung ab. Unternehmen sollten daher insbesondere die menschliche Prüfung und redaktionelle Verantwortung nachvollziehbar dokumentieren.

Welche Folgen drohen bei Verstößen? 

Wer die vorgeschriebenen Transparenz- und Kennzeichnungspflichten nicht einhält, muss zunächst mit Maßnahmen der zuständigen Aufsichtsbehörden rechnen. Diese können Unternehmen beispielsweise dazu auffordern, einen Verstoß zu beheben, Inhalte nachträglich zu kennzeichnen oder den Einsatz eines KI-Systems anzupassen. Die Durchsetzung erfolgt hauptsächlich durch die zuständigen nationalen Marktüberwachungsbehörden.

Darüber hinaus sieht der EU AI Act empfindliche Bußgelder vor. Bei Verstößen gegen Pflichten der Verordnung können – abhängig von Art, Schwere und Dauer des Verstoßes – Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes verhängt werden. Für Unternehmen können außerdem Reputationsschäden, Vertrauensverluste und mögliche wettbewerbsrechtliche Konsequenzen hinzukommen. Die maximale Bußgeldhöhe wird jedoch nicht automatisch ausgeschöpft, sondern muss verhältnismäßig festgelegt werden.

Was Unternehmen jetzt konkret tun sollten 

Unternehmen sollten zunächst erfassen, an welchen Stellen sie bereits KI einsetzen – etwa bei Texten, Bildern, Videos, Chatbots oder automatisierten Kundenprozessen. Anschließend sollte für jeden Anwendungsfall geprüft werden, ob eine Informations-, Kennzeichnungs- oder Dokumentationspflicht besteht. 

Wichtig ist vor allem, nicht pauschal jeden KI-Einsatz zu kennzeichnen, sondern klare interne Prozesse für die tatsächlich relevanten Fälle zu schaffen. 

Praktische Checkliste: Muss dieser Inhalt gekennzeichnet werden? 

Mit diesen Fragen lässt sich schnell einschätzen, ob eine Kennzeichnung erforderlich sein könnte:

• Wurde der Inhalt vollständig oder maßgeblich durch KI erzeugt?
• Zeigt der Inhalt eine reale Person, Situation oder Aussage täuschend echt?
• Handelt es sich um einen Deepfake oder eine wesentliche Manipulation?
• Geht es um ein Thema von öffentlichem Interesse?
• Wurde der Inhalt vor der Veröffentlichung fachkundig und redaktionell geprüft?
• Übernimmt eine Person oder ein Unternehmen erkennbar die Verantwortung?
• Ist für Nutzer bereits eindeutig, dass sie mit einer KI interagieren?
• Könnte ohne Kennzeichnung ein falscher Eindruck über Ursprung oder Echtheit entstehen?

Werden mehrere dieser Fragen mit Ja beantwortet, sollte genauer geprüft werden, ob eine sichtbare Kennzeichnung, ein Hinweis für Nutzer oder eine technische Markierung notwendig ist. Im Zweifel empfiehlt sich eine klare und gut wahrnehmbare Kennzeichnung direkt am jeweiligen Inhalt.

Das sind die nächsten Schritte

Wenn Sie KI bereits für Texte, Bilder, Videos, Chatbots oder andere Unternehmensprozesse einsetzen, empfiehlt es sich, die einzelnen Anwendungsfälle strukturiert zu prüfen.

So stellen Sie sicher, dass notwendige Kennzeichnungen berücksichtigt werden, ohne vorsorglich jeden KI-unterstützten Inhalt mit einem Hinweis zu versehen.

• KI-Einsatz erfassen: Prüfen Sie, welche KI-Tools im Unternehmen genutzt werden und für welche Aufgaben sie zum Einsatz kommen.
• Anwendungsfälle bewerten: Klären Sie, ob Nutzer mit einer KI interagieren, realistisch wirkende Inhalte entstehen oder Themen von öffentlichem Interesse betroffen sind.
• Verantwortlichkeiten festlegen: Bestimmen Sie, wer KI-Inhalte prüft, freigibt und über eine mögliche Kennzeichnung entscheidet.
  • Optional: Unterstützung durch die Unicorn Factory
    Wenn Sie Ihre KI-Inhalte, Chatbots oder internen Abläufe strukturiert prüfen möchten, unterstützen wir Sie gerne bei der Bestandsaufnahme und bei der Entwicklung verständlicher Kennzeichnungsprozesse.
• Kennzeichnungen umsetzen und dokumentieren: Hinterlegen Sie passende Hinweise direkt am Inhalt und halten Sie fest, warum eine Kennzeichnung vorgenommen wurde oder entfallen konnte.
• Mitarbeitende sensibilisieren: Sorgen Sie dafür, dass alle Beteiligten wissen, wann KI eingesetzt werden darf und welche Transparenzpflichten dabei zu beachten sind.

Häufig gestellte Fragen zur KI-Kennzeichnungspflicht