Neuer EU AI Act: Kennzeichnung von KI-Inhalten in der Praxis
Was Unternehmen seit 2. August 2026 bei KI-generierten Inhalten beachten müssen
Künstliche Intelligenz ist längst Teil des Arbeitsalltags: Texte werden mit KI erstellt, Bilder generiert, Stimmen synthetisiert und Videos automatisiert bearbeitet. Doch je stärker KI Inhalte produziert oder verändert, desto wichtiger wird die Frage: Müssen Nutzer*innen erkennen können, dass ein Inhalt mit KI erstellt wurde?
Seit 2. August 2026 gelten im Rahmen des EU AI Act neue Transparenzpflichten für bestimmte KI-generierte und KI-manipulierte Inhalte. Für Unternehmen bedeutet das: KI darf nicht einfach unsichtbar im Hintergrund eingesetzt werden. Je nach Art des Inhalts müssen Unternehmen transparent machen, wenn ein Inhalt künstlich erzeugt oder verändert wurde.
Was hat sich mit dem EU AI Act geändert?
Der EU AI Act bringt Transparenzpflichten für bestimmte KI-generierte Inhalte. Unternehmen müssen daher ihre bisherigen Prozesse überprüfen und festlegen:
- Welche KI-Anwendungen werden im Unternehmen eingesetzt?
- Für welche Inhalte wird KI verwendet?
- Welche Inhalte müssen gekennzeichnet werden?
- Wo muss die Kennzeichnung erfolgen?
- Wie bleibt die Kennzeichnung auch beim Teilen oder Herunterladen erhalten?
- Wer prüft KI-generierte Inhalte vor der Veröffentlichung?
Gerade bei öffentlichen Inhalten ist diese Unterscheidung relevant. Ein intern verwendeter KI-Entwurf ist anders zu bewerten als ein öffentlich publiziertes Bild, ein Social-Media-Video oder ein Blogartikel.
Auch das Thema Governance wird wichtiger. Eine strukturierte KI-Inventur, Risikoklassifizierung, Dokumentation und klare Verantwortlichkeiten gehören zu den empfohlenen Maßnahmen für Unternehmen.
Wenn KI Realität erzeugt oder verändert
Welche KI-Inhalte müssen gekennzeichnet werden?
Nicht alle KI-Inhalte werden gleich behandelt. Entscheidend ist insbesondere, ob der Inhalt für Menschen real wirken kann und in welchem Kontext er veröffentlicht wird.
Bild und Video: Wenn KI Realität erzeugt oder verändert
Besonders relevant ist die Kennzeichnung bei Bildern und Videos, die reale oder realistisch wirkende Personen, Orte, Objekte oder Ereignisse darstellen.
Beispiele:
- Eine KI-generierte Person wird als reale Person dargestellt.
- Ein echtes Foto wird mithilfe von KI so verändert, dass eine Person etwas tut, was sie in Wirklichkeit nicht getan hat.
- Ein realistisches Video zeigt ein Ereignis, das nie stattgefunden hat.
- Ein Unternehmensvideo enthält realistisch wirkende KI-generierte Szenen.
Hier sollte die Kennzeichnung direkt am jeweiligen Inhalt erfolgen – beispielsweise durch einen gut sichtbaren Hinweis wie:
„KI-generiert“
oder
„KI-modifiziert“
Zusätzlich empfiehlt sich bei eingebetteten Inhalten ein Hinweis in der Beschreibung und – soweit relevant – im Alt-Text.
Wichtig: Ein Label sollte nicht nur als nachträglich eingeblendetes CSS- oder JavaScript-Overlay existieren. Die Kennzeichnung muss mit dem Inhalt verbunden sein und auch beim Teilen oder Download erhalten bleiben.
Was gilt für KI-generierte Texte?
Gerade für Unternehmen ist diese Frage relevant: KI wird mittlerweile für Blogartikel, Social-Media-Posts, Presseaussendungen, Produkttexte und andere öffentliche Kommunikation eingesetzt.
Bei Texten von öffentlichem Interesse kann eine Kennzeichnung erforderlich sein, wenn der Inhalt mit KI erstellt wurde und keine vorherige redaktionelle Prüfung stattgefunden hat.
Wird ein KI-generierter Text hingegen von einer qualifizierten Person geprüft, korrigiert und redaktionell freigegeben, ist eine Kennzeichnung nicht in gleicher Weise erforderlich.
Entscheidend ist also nicht nur, ob KI verwendet wurde – sondern auch, wie der Inhalt erstellt und geprüft wurde.
Audio und künstlich erzeugte Stimmen
Auch bei Audio kann eine Kennzeichnung erforderlich sein – insbesondere bei sogenannten Deepfakes oder künstlich erzeugten Stimmen, die wie eine reale Person klingen.
Beispielsweise:
„Dieses Audio wurde mit künstlicher Intelligenz erzeugt.“
Der Hinweis sollte unmittelbar und verständlich erfolgen. Bei längeren Inhalten kann eine Wiederholung sinnvoll sein.
Offensichtlich künstliche Inhalte
Nicht jeder KI-generierte Inhalt muss zwingend gekennzeichnet werden.
Bei offensichtlich künstlichen Darstellungen – etwa:
- Cartoons
- klassischen Illustrationen
- surrealen Szenen
- offensichtlich künstlichen Memes
ist eine Kennzeichnung grundsätzlich nicht in gleicher Weise erforderlich.
Trotzdem kann ein freiwilliger Hinweis sinnvoll sein. Gerade für Unternehmen schafft Transparenz Vertrauen und verhindert Missverständnisse.
AI Act
Q&A mit unserem CISO David:
Müssen Unternehmen jetzt jeden KI-generierten Inhalt kennzeichnen?
„Nein. Der EU AI Act bedeutet nicht, dass ab sofort jedes KI-generierte Bild, jeder Text oder jede interne Zusammenfassung mit einem KI-Label versehen werden muss. Entscheidend sind Art und Einsatz des Inhalts. Besonders relevant sind realistisch wirkende KI-generierte oder KI-modifizierte Inhalte sowie bestimmte öffentlich zugängliche Inhalte. Unternehmen sollten deshalb klare Regeln definieren, wann eine Kennzeichnung erforderlich ist und wer die Veröffentlichung freigibt.“
David, CISO bei SIWA
Was ist aus deiner Sicht die größte Herausforderung bei der Umsetzung?
„Die technische Kennzeichnung ist meistens nicht das größte Problem. Die Herausforderung liegt darin, einen sauberen Prozess zu schaffen. Unternehmen müssen wissen, welche KI-Tools eingesetzt werden, welche Inhalte damit entstehen und wer diese vor der Veröffentlichung kontrolliert. Eine KI-Richtlinie sollte deshalb nicht nur festlegen, welche Tools verwendet werden dürfen, sondern auch Verantwortlichkeiten, Prüfprozesse und den Umgang mit generierten Inhalten definieren.“
David, CISO bei SIWA
Was sollten Unternehmen jetzt konkret tun?
„Ich würde mit einer Bestandsaufnahme beginnen: Welche KI-Anwendungen werden bereits verwendet und für welche Aufgaben? Danach sollte man die eingesetzten Tools und Use Cases nach Risiko und Datenverarbeitung einordnen. Für öffentliche Inhalte braucht es zusätzlich klare Vorgaben zur Kennzeichnung. Und ganz wichtig: KI-generierte Inhalte sollten nicht ungeprüft veröffentlicht werden. Eine qualifizierte menschliche Kontrolle bleibt ein zentraler Bestandteil eines verantwortungsvollen KI-Einsatzes.“
David, CISO bei SIWA
Wie lange dauert der Start?
Für klar abgegrenzte Use Cases oft nur wenige Wochen bis produktiv.
7 Punkte, die Unternehmen jetzt prüfen sollten
- KI-Inventur durchführen: Welche KI-Tools werden bereits eingesetzt – auch solche, die Mitarbeitende eigenständig nutzen?
- KI-Anwendungen klassifizieren: Welche Tools dürfen für welche Daten und Anwendungsfälle verwendet werden?
- Prozesse für KI-generierte Inhalte definieren: Festlegen, wann Inhalte geprüft und wann sie gekennzeichnet werden müssen.
- Kennzeichnung technisch richtig umsetzen: Labels direkt und dauerhaft mit dem jeweiligen Inhalt verbinden.
- Barrierefreiheit mitdenken: KI-Kennzeichnungen sollten auch für Screenreader und andere assistive Technologien zugänglich sein.
- Menschliche Kontrolle sicherstellen: KI-generierte Inhalte vor der Veröffentlichung auf Richtigkeit, Kontext und Fehler prüfen.
- Dokumentation und Verantwortlichkeiten festlegen: Klar definieren, wer KI-Anwendungen freigibt, Inhalte prüft und für die Umsetzung verantwortlich ist.
Fazit: Transparenz wird zum festen Bestandteil von KI-Kommunikation
KI verändert nicht nur, wie Unternehmen arbeiten – sie verändert auch, wie Inhalte entstehen und wie Nutzerinnen und Nutzer ihnen vertrauen.
Die neuen Transparenzpflichten sollten deshalb nicht als lästige zusätzliche Kennzeichnungspflicht betrachtet werden. Richtig umgesetzt können sie Unternehmen dabei helfen, Vertrauen, Nachvollziehbarkeit und einen verantwortungsvollen Umgang mit KI aufzubauen.
Wie gut ist dein Unternehmen auf den AI Act vorbereitet?
Wir analysieren gemeinsam deine bestehenden KI-Anwendungen, Prozesse und Use Cases und zeigen auf, wo Handlungsbedarf besteht.
