KI-generiert oder KI-unterstützt: Kennzeichnung nach EU AI Act

KI-generiert oder KI-unterstützt klingt nach einer sprachlichen Feinheit. Für Unternehmen ist der Unterschied praktisch entscheidend. Eine automatische Rechtschreibkorrektur, ein leicht geschärftes Foto und eine vollständig neu erzeugte Person sind nicht dieselbe Art von KI-Nutzung.

Der EU AI Act führt deshalb keine allgemeine Pflicht ein, jeden Inhalt mit dem Hinweis „Mit KI erstellt“ zu versehen. Die tatsächliche Pflicht hängt davon ab, wer das KI-System bereitstellt, wer es professionell einsetzt, was erzeugt oder verändert wurde und wie das Ergebnis auf das Publikum wirkt.

Die wichtigste Unterscheidung: Anbieter und Betreiber

Artikel 50 verteilt die Transparenzpflichten auf unterschiedliche Rollen. Diese Rollen werden im deutschen Sprachgebrauch häufig vermischt.

Anbieter des KI-Systems

Anbieter sind Unternehmen oder Organisationen, die ein KI-System entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen auf den Markt bringen oder in Betrieb nehmen.

Bei generativen Systemen müssen Anbieter grundsätzlich dafür sorgen, dass synthetische Text-, Bild-, Audio- und Videoinhalte maschinenlesbar als KI-generiert oder KI-manipuliert erkennbar sind. Gemeint sind beispielsweise technische Provenienzsignale, Metadaten oder andere robuste Markierungen.

Diese Pflicht richtet sich typischerweise an den Anbieter des Bildgenerators, nicht an die Agentur, die mit dem Tool einen einzelnen Flyer baut.

Betreiber des KI-Systems

Ein Betreiber ist eine natürliche oder juristische Person, die ein KI-System unter ihrer Verantwortung professionell nutzt. Ein Unternehmen, eine Agentur oder ein selbstständiger Content Creator kann deshalb Betreiber sein.

Für Betreiber wird Artikel 50 vor allem in zwei Fällen relevant:

Das Unternehmen erzeugt oder manipuliert einen Deepfake.
Es veröffentlicht KI-generierten oder manipulierten Text, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ohne ausreichende menschliche Prüfung oder redaktionelle Kontrolle.

Bei einer Agentur ist normalerweise die juristische Person Betreiberin, nicht jeder einzelne Designer oder Texter. Auch Freelancer können im konkreten Auftragsmodell selbst Betreiber sein. Entscheidend sind tatsächliche Kontrolle, Verantwortung und Weisungsstruktur.

Warum eine technische Markierung nicht immer genügt

Ein KI-Anbieter kann ein Bild technisch kennzeichnen. Das befreit das veröffentlichende Unternehmen nicht automatisch von einer sichtbaren Offenlegung.

Bei Deepfakes verlangt Artikel 50 einen Hinweis, den Menschen ohne spezielle Software und ohne zusätzliche Handlung verstehen können. Maschinenlesbare Metadaten sind wertvoll, aber für diese Betreiberpflicht allein nicht genug.

Das führt zu zwei getrennten Ebenen:

Ebene	Typische Verantwortung	Beispiel
Maschinenlesbare Markierung	Anbieter des KI-Systems	Provenienzsignal im Bild oder in Metadaten
Sichtbarer oder hörbarer Hinweis	Professioneller Betreiber	„Personendarstellung KI-generiert“ im Motiv

Unternehmen sollten vorhandene technische Markierungen deshalb erhalten und zusätzlich prüfen, ob eine für Menschen erkennbare Kennzeichnung nötig ist.

Was als normale KI-Unterstützung gelten kann

Artikel 50 nimmt Systeme aus der technischen Anbieterpflicht aus, soweit sie nur eine assistierende Funktion für normale Bearbeitung erfüllen oder die Eingabedaten und deren Bedeutung nicht wesentlich verändern.

Die Kommissionsleitlinien nennen als typische Beispiele unter anderem:

Rechtschreib- und Grammatikprüfung,
Formatierung,
technische Komprimierung,
geringfügigen Zuschnitt,
leichte Farb- und Helligkeitskorrektur,
Schärfung ohne inhaltliche Veränderung.

Diese Beispiele zeigen die entscheidende Grenze: Die Bearbeitung verbessert Form oder technische Qualität, ohne eine neue Aussage zu erzeugen.

Kleine Änderung, große Bedeutungsverschiebung

Der Umfang einer Änderung lässt sich nicht nur in Pixeln oder Arbeitszeit messen. Eine kleine Fläche kann die gesamte Bedeutung eines Bildes verändern.

Beispiele:

Ein Logo auf einem Hemd kann eine nicht vorhandene Markenpartnerschaft suggerieren.
Ein eingefügtes Glas kann den Eindruck erwecken, eine Person konsumiere ein bestimmtes Getränk.
Eine veränderte Handbewegung kann wie eine politische Geste wirken.
Ein synthetisches Lächeln kann aus einem neutralen Porträt eine Empfehlung machen.

Ob eine KI-Nutzung nur assistierend ist, hängt deshalb auch von der semantischen Wirkung ab.

Praxisübersicht für typische Unternehmensinhalte

KI-Einsatz	Einordnung	Sichtbarer Hinweis nach Artikel 50
Rechtschreibung in einer Leistungsseite prüfen	Assistierende Textbearbeitung	Regelmäßig nein
Blogentwurf mit KI, danach fachlich geprüft und redaktionell verantwortet	KI-unterstützter Redaktionsprozess	Nicht pauschal; öffentliche Interessen gesondert prüfen
Produktfoto leicht aufhellen und zuschneiden	Normale Bildbearbeitung	Regelmäßig nein
Leeren Hintergrund eines echten Porträts erzeugen	Kontextabhängig	Oft nein, wenn Person und Aussage unverändert bleiben
Reale Person in neue Pose generieren	Wesentliche synthetische Darstellung	Bei Deepfake-Eigenschaft ja
Gesicht einer realen Person austauschen	Wesentliche Manipulation	Regelmäßig hohes Kennzeichnungsrisiko
Vollständig fiktive Werbefigur erzeugen	Generativer Inhalt, aber nicht zwingend Deepfake	Betreiberhinweis nicht automatisch nach Art. 50 Abs. 4
KI-Stimme einer realen Person für Werbung klonen	Synthetische Nachbildung	Regelmäßig kennzeichnen
KI-Text über politische oder gesundheitliche Entwicklungen ungeprüft veröffentlichen	Text zu öffentlichem Interesse	Kennzeichnen
KI-Text zu öffentlichem Interesse substanziell prüfen und redaktionell verantworten	Ausnahme kann greifen	Dokumentierte Prüfung erforderlich

Die Tabelle zeigt auch eine wichtige Grenze des Gesetzes: Vollständig KI-generierter Content ist nicht in jeder Konstellation sichtbar zu kennzeichnen. Für Betreiber konzentriert sich Artikel 50 auf Deepfakes und bestimmte Texte zu öffentlichen Interessen. Anbieter generativer Systeme haben darüber hinaus eigene technische Markierungspflichten.

Bildinhalte: Nicht jede Generierung ist ein Deepfake

Ein Bild ist nur dann ein Deepfake im Sinne des AI Acts, wenn es einer realen Person, einem realen Gegenstand, Ort, Unternehmen oder Ereignis ähnelt und fälschlich authentisch oder wahrheitsgetreu erscheinen kann.

Das bedeutet:

Eine sichtbar fiktive Comicfigur ist nicht allein wegen ihrer KI-Erzeugung ein Deepfake.
Eine sprechende Maus in einer erkennbar fantastischen Werbung ist regelmäßig nicht authentisch gemeint.
Ein fotorealistischer Geschäftsführer-Avatar kann dagegen ein Deepfake sein, weil eine reale Person synthetisch nachgebildet wird.
Ein echtes Produkt vor einem synthetischen Hintergrund ist nicht automatisch ein Deepfake, kann aber irreführend werden, wenn Eigenschaften oder Einsatz falsch dargestellt werden.

Die Kommission verlangt eine objektive Prüfung aus Sicht der voraussichtlichen Zielgruppe. Dabei zählen Ähnlichkeit, Aussage, Kontext und Erwartungen des Publikums.

Texte: Der AI Act unterscheidet nach Thema und Redaktion

Bei Texten ist die sichtbare Betreiberpflicht enger als häufig behauptet. Artikel 50 Absatz 4 erfasst Texte, die:

durch ein KI-System erzeugt oder manipuliert wurden,
veröffentlicht werden,
die Öffentlichkeit informieren sollen,
Angelegenheiten von öffentlichem Interesse betreffen.

Dazu können unter anderem Politik, öffentliche Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umweltschutz, Verbrauchersicherheit sowie relevante wirtschaftliche, wissenschaftliche oder kulturelle Entwicklungen gehören.

Ein normaler Produktclaim oder eine gewöhnliche Unternehmensbeschreibung fällt nicht allein deshalb darunter, weil sie öffentlich auf einer Website steht. Andere Gesetze gegen Täuschung und falsche Werbeaussagen gelten natürlich weiterhin.

Was eine ausreichende menschliche Prüfung ausmacht

Die Textkennzeichnung kann entfallen, wenn der Inhalt eine echte menschliche Prüfung oder redaktionelle Kontrolle durchlaufen hat und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Die EU-Kommission versteht darunter mehr als einen schnellen Blick auf Rechtschreibung und Tonalität. Erforderlich ist eine inhaltliche Prüfung durch Personen mit relevantem Wissen und professionellem Urteilsvermögen. Dazu gehören je nach Thema:

Tatsachen prüfen,
Quellen bewerten,
Schlussfolgerungen nachvollziehen,
Fehler korrigieren,
Aussagen ändern oder verwerfen können,
die Veröffentlichung verantwortlich freigeben.

Eine Agentur sollte diese Prüfung nicht nur behaupten, sondern im Workflow sichtbar machen.

Audio und Video: Die gleiche Logik in anderer Form

Bei Audio und Video ist die Täuschungswirkung häufig besonders hoch. Typische Fälle sind:

geklonte Stimmen realer Personen,
synthetische Interviews,
Lippenbewegungen zu nie gesprochenen Aussagen,
reale Personen in nie stattgefundenen Szenen,
digitale Avatare von Geschäftsführern oder Mitarbeitenden.

Bei einem Video kann der Hinweis visuell eingeblendet und bei Bedarf zusätzlich im Ton genannt werden. Bei reinem Audio muss die Information hörbar sein. Der Hinweis muss spätestens bei der ersten Wahrnehmung erfolgen und darf nicht so spät kommen, dass der Inhalt bereits als echt verstanden wurde.

Fünf Begriffe, die Unternehmen sauber trennen sollten

KI-generiert

Der wesentliche Inhalt wurde durch ein KI-System neu erzeugt. Das kann Text, Bild, Audio oder Video betreffen.

KI-manipuliert

Ein bestehender Inhalt wurde durch KI inhaltlich verändert. Dazu gehören etwa Face Swaps, neue Aussagen, neue Objekte oder veränderte Handlungen.

KI-unterstützt

KI hilft innerhalb eines menschlich gesteuerten Prozesses. Der Begriff sagt allein noch nichts darüber aus, wie stark der finale Inhalt verändert wurde. Er ist deshalb kein rechtlicher Freifahrtschein.

Standardbearbeitung

Die KI verbessert technische oder formale Aspekte, ohne Eingabe oder Semantik wesentlich zu verändern.

Deepfake

Ein KI-erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt ähnelt etwas Realem und kann fälschlich authentisch oder wahrheitsgetreu wirken.

Warum „Mit KI unterstützt“ als Hinweis oft zu ungenau ist

Unternehmen verwenden gern weiche Formulierungen, weil sie weniger auffallen. Das ist verständlich, kann aber die Transparenz verfehlen.

Wenn eine reale Person vollständig neu erzeugt wurde, beschreibt „KI-unterstützt“ den Prozess nicht klar. Der Betrachter erfährt nicht, ob nur die Farbe korrigiert oder die gesamte Aufnahme synthetisch gebaut wurde.

Bessere Hinweise orientieren sich am tatsächlich relevanten Teil:

Bild KI-generiert
Bild teilweise KI-modifiziert
Personendarstellung KI-generiert
Stimme KI-generiert
Video enthält KI-manipulierte Szenen

Transparenz bedeutet nicht, jedes verwendete Werkzeug aufzuzählen. Sie soll die mögliche Fehlvorstellung korrigieren.

Ein belastbarer interner Prüfprozess

Für Marketingteams und Agenturen ist eine dreistufige Einordnung sinnvoll.

Stufe 1: Technische Bearbeitung

Dokumentiere, ob die KI nur Format, Qualität, Sprache oder technische Eigenschaften verbessert hat.

Stufe 2: Inhaltliche Veränderung

Prüfe, ob Personen, Produkte, Handlungen, Orte, Aussagen oder Ereignisse neu erzeugt oder in ihrer Bedeutung verändert wurden.

Stufe 3: Wahrnehmung des Publikums

Bewerte, ob die Zielgruppe den Inhalt oder einen wesentlichen Bestandteil für authentisch oder wahrheitsgetreu halten könnte.

Erst danach wird entschieden:

keine sichtbare Kennzeichnung,
Kennzeichnung als KI-generiert,
Kennzeichnung als KI-modifiziert,
zusätzliche rechtliche Prüfung,
Veröffentlichung in dieser Form ablehnen.

Häufige Fehlannahmen

„Alles aus ChatGPT muss gekennzeichnet werden“

Nein. Artikel 50 enthält keine allgemeine Kennzeichnungspflicht für jeden KI-unterstützten Inhalt.

„Wenn die KI Metadaten einbettet, sind wir fertig“

Nein. Bei Deepfakes muss die Betreiberinformation für Menschen wahrnehmbar sein. Technische Markierungen können sie nicht ersetzen.

„Wenn ein Mensch den Text einmal liest, greift die Ausnahme“

Nicht automatisch. Die Prüfung muss inhaltlich und fachlich substanziell sein.

„Ein kreatives Design ist niemals ein Deepfake“

Falsch. Eine fotorealistische reale Person kann auch innerhalb eines klar kreativen Werbemotivs synthetisch und irreführend authentisch wirken.

„Mit Einwilligung muss nichts gekennzeichnet werden“

Falsch. Einwilligung und Transparenz sind getrennte Pflichten.

Stand, Grenzen und Quellen

Artikel 50 gilt seit dem 2. August 2026. Die EU-Kommission veröffentlichte am 20. Juli 2026 finale Leitlinien und ergänzende Fragen und Antworten. Diese Dokumente sind für die Praxis besonders wichtig, aber keine verbindliche Gerichtsentscheidung.

Primärquellen:

Dieser Beitrag ist keine individuelle Rechtsberatung. Besonders bei bekannten Personen, Gesundheitsthemen, politischen Inhalten oder großen Kampagnen sollte der konkrete Prozess rechtlich geprüft werden.