Neuer EU AI Act: Kennzeichnung von KI-Inhalten in der Praxis
Was Unternehmen seit 2. August 2026 bei KI-generierten Inhalten beachten müssen
Künstliche Intelligenz ist längst Teil des Arbeitsalltags: Texte werden mit KI erstellt, Bilder generiert, Stimmen synthetisiert und Videos automatisiert bearbeitet. Doch je stärker KI Inhalte produziert oder verändert, desto wichtiger wird die Frage: Müssen Nutzer*innen erkennen können, dass ein Inhalt mit KI erstellt wurde?
Seit 2. August 2026 gelten im Rahmen des EU AI Act neue Transparenzpflichten für bestimmte KI-generierte und KI-manipulierte Inhalte. Für Unternehmen bedeutet das: KI darf nicht einfach unsichtbar im Hintergrund eingesetzt werden. Je nach Art des Inhalts müssen Unternehmen transparent machen, wenn ein Inhalt künstlich erzeugt oder verändert wurde.
Was hat sich mit dem EU AI Act geändert?
Der EU AI Act bringt Transparenzpflichten für bestimmte KI-generierte Inhalte. Unternehmen müssen daher ihre bisherigen Prozesse überprüfen und festlegen:
- Welche KI-Anwendungen werden im Unternehmen eingesetzt?
- Für welche Inhalte wird KI verwendet?
- Welche Inhalte müssen gekennzeichnet werden?
- Wo muss die Kennzeichnung erfolgen?
- Wie bleibt die Kennzeichnung auch beim Teilen oder Herunterladen erhalten?
- Wer prüft KI-generierte Inhalte vor der Veröffentlichung?
Gerade bei öffentlichen Inhalten ist diese Unterscheidung relevant. Ein intern verwendeter KI-Entwurf ist anders zu bewerten als ein öffentlich publiziertes Bild, ein Social-Media-Video oder ein Blogartikel.
Auch das Thema Governance wird wichtiger. Eine strukturierte KI-Inventur, Risikoklassifizierung, Dokumentation und klare Verantwortlichkeiten gehören zu den empfohlenen Maßnahmen für Unternehmen.
Wichtig ist die Unterscheidung zwischen Anbieter und Betreiber eines KI-Systems. Anbieter generativer KI-Systeme haben unter anderem technische Pflichten zur maschinenlesbaren Kennzeichnung synthetischer Inhalte. Unternehmen, die solche Systeme lediglich einsetzen, gelten typischerweise als Betreiber. Für sie besteht keine pauschale Pflicht, jeden KI-generierten Inhalt sichtbar zu kennzeichnen.
Wenn KI Realität erzeugt oder verändert
Welche KI-Inhalte müssen gekennzeichnet werden?
Nicht alle KI-Inhalte werden gleich behandelt. Entscheidend ist insbesondere, ob der Inhalt für Menschen real wirken kann und in welchem Kontext er veröffentlicht wird.
Bild und Video: Wenn KI Realität erzeugt oder verändert
Eine Offenlegungspflicht besteht für Unternehmen als Betreiber insbesondere dann, wenn ein KI-generierter oder KI-manipulierter Bild-, Ton- oder Videoinhalt als Deepfake einzustufen ist. Ein Deepfake liegt vereinfacht gesagt vor, wenn der Inhalt wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und für Betrachter fälschlicherweise echt oder wahrheitsgemäß erscheinen kann.
Beispiele:
- Eine KI-generierte Person wird als reale Person dargestellt.
- Ein echtes Foto wird mithilfe von KI so verändert, dass eine Person etwas tut, was sie in Wirklichkeit nicht getan hat.
- Ein realistisches Video zeigt ein Ereignis, das nie stattgefunden hat.
- Ein Unternehmensvideo enthält realistisch wirkende KI-generierte Szenen, die tatsächliche Orte, Personen oder Ereignisse vortäuschen.
Hier sollte die Kennzeichnung direkt am jeweiligen Inhalt erfolgen – beispielsweise durch einen gut sichtbaren Hinweis wie:
„KI-generiert“
oder
„KI-modifiziert“
Zusätzlich empfiehlt sich bei eingebetteten Inhalten ein Hinweis in der Beschreibung und – soweit relevant – im Alt-Text.
Wichtig: Die Offenlegung muss klar und eindeutig wahrnehmbar sein und spätestens bei der ersten Wahrnehmung des Inhalts erfolgen. Ergänzende technische Kennzeichnungen, beispielsweise Metadaten oder Herkunftsnachweise, können sinnvoll sein. Die Pflicht zur maschinenlesbaren technischen Kennzeichnung betrifft jedoch grundsätzlich den Anbieter des generativen KI-Systems.
Was gilt für KI-generierte Texte?
Gerade für Unternehmen ist diese Frage relevant: KI wird mittlerweile für Blogartikel, Social-Media-Posts, Presseaussendungen, Produkttexte und andere öffentliche Kommunikation eingesetzt.
Eine Offenlegungspflicht kann bei KI-generierten oder KI-manipulierten Texten bestehen, wenn diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Wird ein KI-generierter Text tatsächlich inhaltlich geprüft und redaktionell kontrolliert und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, ist keine entsprechende Offenlegung erforderlich.
Entscheidend ist also nicht nur, ob KI verwendet wurde – sondern auch, wie der Inhalt erstellt und geprüft wurde.
Audio und künstlich erzeugte Stimmen
Auch bei Audio kann eine Offenlegungspflicht bestehen, insbesondere wenn ein Deepfake vorliegt - beispielsweise wenn die Stimme einer realen Person durch KI täuschend echt nachgebildet oder manipuliert wird. Eine künstlich erzeugte Stimme ist dagegen nicht allein deshalb kennzeichnungspflichtig, weil sie synthetisch erzeugt wurde.
Beispielsweise:
„Dieses Audio wurde mit künstlicher Intelligenz erzeugt.“
Der Hinweis sollte unmittelbar und verständlich erfolgen. Bei längeren Inhalten kann eine Wiederholung sinnvoll sein.
Offensichtlich künstliche Inhalte
Nicht jeder KI-generierte Inhalt muss zwingend gekennzeichnet werden.
Bei offensichtlich künstlichen Darstellungen – etwa:
- Cartoons
- klassischen Illustrationen
- surrealen Szenen
- offensichtlich künstlichen Memes
ist eine Kennzeichnung grundsätzlich nicht in gleicher Weise erforderlich.
Trotzdem kann ein freiwilliger Hinweis sinnvoll sein. Gerade für Unternehmen schafft Transparenz Vertrauen und verhindert Missverständnisse.
AI Act
Q&A mit unserem CISO David:
Müssen Unternehmen jetzt jeden KI-generierten Inhalt kennzeichnen?
„Nein. Der EU AI Act bedeutet nicht, dass ab sofort jedes KI-generierte Bild, jeder Text oder jede interne Zusammenfassung mit einem KI-Label versehen werden muss. Entscheidend sind Art und Einsatz des Inhalts. Besonders relevant sind realistisch wirkende KI-generierte oder KI-modifizierte Inhalte sowie bestimmte öffentlich zugängliche Inhalte. Unternehmen sollten deshalb klare Regeln definieren, wann eine Kennzeichnung erforderlich ist und wer die Veröffentlichung freigibt.“
David, CISO bei SIWA
Was ist aus deiner Sicht die größte Herausforderung bei der Umsetzung?
„Die technische Kennzeichnung ist meistens nicht das größte Problem. Die Herausforderung liegt darin, einen sauberen Prozess zu schaffen. Unternehmen müssen wissen, welche KI-Tools eingesetzt werden, welche Inhalte damit entstehen und wer diese vor der Veröffentlichung kontrolliert. Eine KI-Richtlinie sollte deshalb nicht nur festlegen, welche Tools verwendet werden dürfen, sondern auch Verantwortlichkeiten, Prüfprozesse und den Umgang mit generierten Inhalten definieren.“
David, CISO bei SIWA
Was sollten Unternehmen jetzt konkret tun?
„Ich würde mit einer Bestandsaufnahme beginnen: Welche KI-Anwendungen werden bereits verwendet und für welche Aufgaben? Danach sollte man die eingesetzten Tools und Use Cases nach Risiko und Datenverarbeitung einordnen. Für öffentliche Inhalte braucht es zusätzlich klare Vorgaben zur Kennzeichnung. Und ganz wichtig: KI-generierte Inhalte sollten nicht ungeprüft veröffentlicht werden. Eine qualifizierte menschliche Kontrolle bleibt ein zentraler Bestandteil eines verantwortungsvollen KI-Einsatzes.“
David, CISO bei SIWA
Wie lange dauert der Start?
Für klar abgegrenzte Use Cases oft nur wenige Wochen bis produktiv.
7 Punkte, die Unternehmen jetzt prüfen sollten
- KI-Inventur durchführen: Welche KI-Tools werden bereits eingesetzt – auch solche, die Mitarbeitende eigenständig nutzen?
- KI-Anwendungen klassifizieren: Welche Tools dürfen für welche Daten und Anwendungsfälle verwendet werden?
- Prozesse für KI-generierte Inhalte definieren: Festlegen, wann Inhalte geprüft und wann sie gekennzeichnet werden müssen.
- Kennzeichnung passend umsetzen: Wenn eine Offenlegung erforderlich ist, muss sie klar, eindeutig und spätestens bei der ersten Wahrnehmung des Inhalts erfolgen.
- Barrierefreiheit mitdenken: KI-Kennzeichnungen sollten auch für Screenreader und andere assistive Technologien zugänglich sein.
- Menschliche Kontrolle sicherstellen: KI-generierte Inhalte vor der Veröffentlichung auf Richtigkeit, Kontext und Fehler prüfen.
- Dokumentation und Verantwortlichkeiten festlegen: Klar definieren, wer KI-Anwendungen freigibt, Inhalte prüft und für die Umsetzung verantwortlich ist.
Fazit: Transparenz wird zum festen Bestandteil von KI-Kommunikation
KI verändert nicht nur, wie Unternehmen arbeiten – sie verändert auch, wie Inhalte entstehen und wie Nutzerinnen und Nutzer ihnen vertrauen.
Die neuen Transparenzpflichten sollten deshalb nicht als lästige zusätzliche Kennzeichnungspflicht betrachtet werden. Richtig umgesetzt können sie Unternehmen dabei helfen, Vertrauen, Nachvollziehbarkeit und einen verantwortungsvollen Umgang mit KI aufzubauen.
Wie gut ist dein Unternehmen auf den AI Act vorbereitet?
Wir analysieren gemeinsam deine bestehenden KI-Anwendungen, Prozesse und Use Cases und zeigen auf, wo Handlungsbedarf besteht.
