Neuer EU AI Act: Kennzeichnung von KI-Inhalten in der Praxis

Was Unternehmen seit 2. August 2026 bei KI-generierten Inhalten beachten müssen

Künstliche Intelligenz ist längst Teil des Arbeitsalltags: Texte werden mit KI erstellt, Bilder generiert, Stimmen synthetisiert und Videos automatisiert bearbeitet. Doch je stärker KI Inhalte produziert oder verändert, desto wichtiger wird die Frage: Müssen Nutzer*innen erkennen können, dass ein Inhalt mit KI erstellt wurde?

Seit 2. August 2026 gelten im Rahmen des EU AI Act neue Transparenzpflichten für bestimmte KI-generierte und KI-manipulierte Inhalte. Für Unternehmen bedeutet das: KI darf nicht einfach unsichtbar im Hintergrund eingesetzt werden. Je nach Art des Inhalts müssen Unternehmen transparent machen, wenn ein Inhalt künstlich erzeugt oder verändert wurde.

Was hat sich mit dem EU AI Act geändert?

Der EU AI Act bringt Transparenzpflichten für bestimmte KI-generierte Inhalte. Unternehmen müssen daher ihre bisherigen Prozesse überprüfen und festlegen:

Welche KI-Anwendungen werden im Unternehmen eingesetzt?
Für welche Inhalte wird KI verwendet?
Welche Inhalte müssen gekennzeichnet werden?
Wo muss die Kennzeichnung erfolgen?
Wie bleibt die Kennzeichnung auch beim Teilen oder Herunterladen erhalten?
Wer prüft KI-generierte Inhalte vor der Veröffentlichung?

Gerade bei öffentlichen Inhalten ist diese Unterscheidung relevant. Ein intern verwendeter KI-Entwurf ist anders zu bewerten als ein öffentlich publiziertes Bild, ein Social-Media-Video oder ein Blogartikel.

Auch das Thema Governance wird wichtiger. Eine strukturierte KI-Inventur, Risikoklassifizierung, Dokumentation und klare Verantwortlichkeiten gehören zu den empfohlenen Maßnahmen für Unternehmen.

Wichtig ist die Unterscheidung zwischen Anbietenden und Betreibenden eines KI-Systems. Anbietende generativer KI-Systeme haben unter anderem technische Pflichten zur maschinenlesbaren Kennzeichnung synthetischer Inhalte. Unternehmen, die solche Systeme lediglich einsetzen, gelten typischerweise als Betreibende. Für sie besteht keine pauschale Pflicht, jeden KI-generierten Inhalt sichtbar zu kennzeichnen.

Welche KI-Inhalte müssen gekennzeichnet werden?

Nicht alle KI-Inhalte werden gleich behandelt. Entscheidend ist insbesondere, ob der Inhalt für Menschen real wirken kann und in welchem Kontext er veröffentlicht wird.

Bild und Video: Wenn KI Realität erzeugt oder verändert.
Eine Offenlegungspflicht besteht für Unternehmen als Betreiber insbesondere dann, wenn ein KI-generierter oder KI-manipulierter Bild-, Ton- oder Videoinhalt als Deepfake einzustufen ist. Ein Deepfake liegt vereinfacht gesagt vor, wenn der Inhalt wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und für Betrachter fälschlicherweise echt oder wahrheitsgemäß erscheinen kann.

Folgend ein paar Beispiele:

Eine KI-generierte Person wird als reale Person dargestellt.
Ein echtes Foto wird mithilfe von KI so verändert, dass eine Person etwas tut, was sie in Wirklichkeit nicht getan hat.
Ein realistisches Video zeigt ein Ereignis, das nie stattgefunden hat.
Ein Unternehmensvideo enthält realistisch wirkende KI-generierte Szenen.

Hier sollte die Kennzeichnung direkt am jeweiligen Inhalt erfolgen – beispielsweise durch einen gut sichtbaren Hinweis wie:

„KI-generiert“ oder „KI-modifiziert“

Zusätzlich empfiehlt sich bei eingebetteten Inhalten ein Hinweis in der Beschreibung und – soweit relevant – im Alt-Text.

Wichtig: Die Offenlegung muss klar und eindeutig wahrnehmbar sein und spätestens bei der ersten Wahrnehmung des Inhalts erfolgen. Ergänzende technische Kennzeichnungen, beispielsweise Metadaten oder Herkunftsnachweise, können sinnvoll sein. Die Pflicht zur maschinenlesbaren technischen Kennzeichnung betrifft jedoch grundsätzlich den Anbieter des generativen KI-Systems.

Die junge Frau in Jeans und Blazer strahlt Vertrauen aus, während sie ihren Laptop in einem lichtdurchfluteten Bürobereich hält.

Was gilt für KI-generierte Texte?

Gerade für Unternehmen ist diese Frage relevant: KI wird mittlerweile für Blogartikel, Social-Media-Posts, Presseaussendungen, Produkttexte und andere öffentliche Kommunikation eingesetzt.

Eine Offenlegungspflicht kann bei KI-generierten oder KI-manipulierten Texten bestehen, wenn diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Wird ein KI-generierter Text tatsächlich inhaltlich geprüft und redaktionell kontrolliert und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, ist keine entsprechende Offenlegung erforderlich.

Entscheidend ist also nicht nur, ob KI verwendet wurde – sondern auch, wie der Inhalt erstellt und geprüft wurde.

Zwei Männer lächeln freundlich und sitzen gemeinsam auf einer grauen Couch mit dem Laptop

Audio und künstlich erzeugte Stimmen

Auch bei Audio kann eine Kennzeichnung erforderlich sein – insbesondere bei sogenannten Deepfakes oder künstlich erzeugten Stimmen, die wie eine reale Person klingen.

Beispielsweise:

„Dieses Audio wurde mit künstlicher Intelligenz erzeugt.“

Der Hinweis sollte unmittelbar und verständlich erfolgen. Bei längeren Inhalten kann eine Wiederholung sinnvoll sein.

Offensichtlich künstliche Inhalte

Nicht jeder KI-generierte Inhalt muss zwingend gekennzeichnet werden.

Bei offensichtlich künstlichen Darstellungen – etwa:

Cartoons
klassischen Illustrationen
surrealen Szenen
offensichtlich künstlichen Memes

ist eine Kennzeichnung grundsätzlich nicht in gleicher Weise erforderlich.

Trotzdem kann ein freiwilliger Hinweis sinnvoll sein. Gerade für Unternehmen schafft Transparenz Vertrauen und verhindert Missverständnisse.

Q&A mit unserem CISO David Wurm

Müssen Unternehmen jetzt jeden KI-generierten Inhalt kennzeichnen?

Nein. Der EU AI Act bedeutet nicht, dass ab sofort jedes KI-generierte Bild, jeder Text oder jede interne Zusammenfassung mit einem KI-Label versehen werden muss. Entscheidend sind Art und Einsatz des Inhalts. Besonders relevant sind realistisch wirkende KI-generierte oder KI-modifizierte Inhalte sowie bestimmte öffentlich zugängliche Inhalte. Unternehmen sollten deshalb klare Regeln definieren, wann eine Kennzeichnung erforderlich ist und wer die Veröffentlichung freigibt.

David Wurm, CISO bei SIWA

Was ist aus deiner Sicht die größte Herausforderung bei der Umsetzung?

Die technische Kennzeichnung ist meistens nicht das größte Problem. Die Herausforderung liegt darin, einen sauberen Prozess zu schaffen. Unternehmen müssen wissen, welche KI-Tools eingesetzt werden, welche Inhalte damit entstehen und wer diese vor der Veröffentlichung kontrolliert. Eine KI-Richtlinie sollte deshalb nicht nur festlegen, welche Tools verwendet werden dürfen, sondern auch Verantwortlichkeiten, Prüfprozesse und den Umgang mit generierten Inhalten definieren.

David Wurm, CISO bei SIWA

Was sollten Unternehmen jetzt konkret tun?

Ich würde mit einer Bestandsaufnahme beginnen: Welche KI-Anwendungen werden bereits verwendet und für welche Aufgaben? Danach sollte man die eingesetzten Tools und Use Cases nach Risiko und Datenverarbeitung einordnen. Für öffentliche Inhalte braucht es zusätzlich klare Vorgaben zur Kennzeichnung. Und ganz wichtig: KI-generierte Inhalte sollten nicht ungeprüft veröffentlicht werden. Eine qualifizierte menschliche Kontrolle bleibt ein zentraler Bestandteil eines verantwortungsvollen KI-Einsatzes.

David Wurm, CISO bei SIWA

7 Punkte, die Unternehmen jetzt prüfen sollten

KI-Inventur durchführen
Welche KI-Tools werden bereits eingesetzt – auch solche, die Mitarbeitende eigenständig nutzen?
KI-Anwendungen klassifizieren
Welche Tools dürfen für welche Daten und Anwendungsfälle verwendet werden?
Prozesse für KI-generierte Inhalte definieren
Festlegen, wann Inhalte geprüft und wann sie gekennzeichnet werden müssen.
Kennzeichnung passend umsetzen
Wenn eine Offenlegung erforderlich ist, muss sie klar, eindeutig und spätestens bei der ersten Wahrnehmung des Inhalts erfolgen.
Barrierefreiheit mitdenken
KI-Kennzeichnungen sollten auch für Screenreader und andere assistive Technologien zugänglich sein.

Mehr zu Barrierefreiheit
Menschliche Kontrolle sicherstellen
KI-generierte Inhalte vor der Veröffentlichung auf Richtigkeit, Kontext und Fehler prüfen.
Dokumentation und Verantwortlichkeiten festlegen
Klar definieren, wer KI-Anwendungen freigibt, Inhalte prüft und für die Umsetzung verantwortlich ist.

Fazit

Transparenz wird zum festen Bestandteil von KI-Kommunikation

KI verändert nicht nur, wie Unternehmen arbeiten – sie verändert auch, wie Inhalte entstehen und wie Nutzerinnen und Nutzer ihnen vertrauen.

Die neuen Transparenzpflichten sollten deshalb nicht als lästige zusätzliche Kennzeichnungspflicht betrachtet werden. Richtig umgesetzt können sie Unternehmen dabei helfen, Vertrauen, Nachvollziehbarkeit und einen verantwortungsvollen Umgang mit KI aufzubauen.