Die neue Transparenzpflicht des AI Act einfach erklärt
Die rechtliche Grundlage für die KI-Kennzeichnung bildet der EU AI Act. Dabei handelt es sich um die weltweit erste umfassende Regulierung für künstliche Intelligenz innerhalb der Europäischen Union. Dabei betreffen die neuen Vorschriften nicht nur Unternehmen, die KI-Systeme entwickeln, sondern auch jeden, der KI im beruflichen Umfeld einsetzen.
Artikel 50 der KI-Verordnung regelt die Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme und legt insbesondere fest, wann Inhalte markiert werden müssen. Ziel ist es sicherzustellen, dass Menschen erkennen können, ob sie mit einem KI-System interagieren oder ob Inhalte künstlich erzeugt oder manipuliert wurden.
Die Pflicht zur Kennzeichnung soll dazu beitragen, Vertrauen in KI-Anwendungen zu schaffen und gleichzeitig Missbrauch, Desinformation und Manipulation einzudämmen. Gleichzeitig sollen die rechtlichen und ethischen Anforderungen an den Einsatz von künstlicher Intelligenz verstärkt werden.
Welche KI-Inhalte müssen Unternehmen kennzeichnen?
Nicht jeder Inhalt, der mithilfe von KI erstellt wurde, ist automatisch kennzeichnungspflichtig. Das Gesetzt konzentriert sich vor allem auf Inhalte, die für Nutzer echt oder wahrheitsgemäß wirken und bei denen die Gefahr besteht, dass Menschen diese für echte oder ausschließlich menschlich erstellte Inhalte halten.
KI-generierte Bilder
Bilder, die vollständig oder teilweise mithilfe von künstlicher Intelligenz erstellt oder verändert wurden, sind künftig kennzeichnungspflichtig. Dies betrifft beispielsweise Werbegrafiken, Produktbilder oder realistisch wirkende Darstellungen.
Vor allem Inhalte, die wirklichen Personen ähneln oder täuschend echt wirken, müssen besonders sorgfältig geprüft werden. Darüber hinaus sind auch weiterhin Aspekte wie das Recht am eigenen Bild rechtliche relevant.
KI-generierte Videos und Deepfakes
Besonders streng sind die Anforderungen bei sogenannten Deepfakes. Die Anzahl dieser hat sich in den letzten Jahren drastisch erhöht und führt aktuell am schnellsten dazu, dass falsche Eindrücke und Schäden an Personen entstehen (Quelle: Deepstrike). Bereits 2023 war jeder zweite Deutsche dafür, dass Deepfakes markiert werden müssen (Quelle: Statista) Werden Videos, wirkliche Personen und realistisch wirkende Szenen durch KI erstellt, müssen diese Inhalte gekennzeichnet werden.
KI-generierte Audiodateien
Auch künstlich erzeugte Stimmen oder bearbeitete Audioaufnahmen fallen unter die Transparenzpflicht.
Hierzu gehören beispielsweise:
- Podcasts
- Sprachaufnahmen
- KI-generierte Stimmen
- Audioinhalte in Videos
KI-generierte Texte
Nicht jeder mit ChatGPT oder anderen Tools erzeugte Text muss automatisch gekennzeichnet werden.
Allerdings fallen besonders KI-generierte Texte, die über Angelegenheiten von öffentlichem Interesse informieren oder Inhalte von öffentlichem Interesse behandeln, unter die Transparenzpflicht. Also alle Texte, die offiziell an die Öffentlichkeit gegeben werden wie Pressemitteilungen, Zeitungsartikel und ähnliches.
Normale Blogartikel, Produktbeschreibungen oder Marketingtexte sind nach aktuellem Stand dagegen in vielen Fällen nicht betroffen.
Interaktionen mit KI-Systemen und Chatbots
Nutzer müssen grundsätzlich erkennen können, wenn sie mit einem KI-System oder Chatbot kommunizieren. Anbieter müssen ihre Nutzer also darüber informieren, dass sie mit einer künstlichen Intelligenz interagieren. Ein einfacher Hinweis wie „Sie kommunizieren mit einer KI“ ist dabei ausreichend.
Vorgaben zur Kennzeichnung von KI-Inhalten nach Artikel 50 der KI-Verordnung
Der EU AI Act schreibt nicht nur vor, dass bestimmte KI-generierte Inhalte gekennzeichnet werden müssen, sondern stellt auch Anforderungen an die Art und Weise der Kennzeichnung.
Die Kennzeichnung muss klar, verständlich und leicht erkennbar sein. Nutzer sollen auf einen Blick erkennen können, ob Inhalte künstlich erstellt oder bearbeitet wurden.
Je nach Medium kann die Kennzeichnung von KI-generierten Inhalten beispielsweise erfolgen durch:
- sichtbare Hinweise,
- Textvermerke,
- technische Metadaten,
- Wasserzeichen,
- Hinweise in Beschreibungen oder Begleittexten.
Die Markierung darf nicht versteckt oder missverständlich sein. Ziel ist es, ein Höchstmaß an Transparenz zu gewährleisten.
Beispiele für die Kennzeichnungspflicht für KI-Inhalte
Inhalt | Kennzeichnung erforderlich? | Beispiel |
KI-generiertes Bild für Social Media | Ja | „Dieses Bild wurde mit Hilfe von KI erstellt.“ |
Deepfake-Video einer bekannten Person | Ja | Hinweis im Video und in der Beschreibung |
Synthetisch erzeugte Stimme in einem Podcast | Ja | Hinweis im Podcast oder Begleittext |
Chatbot im Kundenservice | Ja | „Sie kommunizieren mit einer KI.“ |
Blogartikel mit Unterstützung von ChatGPT | In der Regel nein | Kein Hinweis erforderlich |
Rechtschreibkorrektur mit KI | Nein | Kein Hinweis notwendig |
KI-gestützte Bildbearbeitung mit geringfügigen Änderungen | Häufig nein | Einzelfallabhängig |
Nachricht oder Informationsbeitrag mit KI-generierten Inhalten | Unter Umständen ja | Transparenzhinweis erforderlich |
Tipps zur Umsetzung und mögliche Fehlerquellen
Unternehmen sollten sich frühzeitig mit den neuen Anforderungen auseinandersetzen und interne Prozesse überprüfen. Dabei helfen einige grundlegende Maßnahmen:
Transparenz von Anfang an einplanen: Wenn Sie KI für Texte, Bilder, Videos oder Audioinhalte einsetzen, sollten Sie bereits bei der Erstellung dokumentieren, welche Inhalte künstlich erzeugt oder verändert wurden. Dadurch lassen sich Kennzeichnungspflichten später einfacher umsetzen.
Nicht jeden KI-Einsatz automatisch kennzeichnen: Ein häufiger Irrtum besteht darin, dass sämtliche Inhalte mit KI-Bezug gekennzeichnet werden müssten. Tatsächlich sieht das Gesetz aber zahlreiche Ausnahmen vor. Eine pauschale Markierung aller Inhalte ist daher nicht erforderlich.
Deepfakes besonders sorgfältig behandeln: Bei künstlich erzeugten oder manipulierten Bildern, Videos und Stimmen gelten besonders strenge Transparenzanforderungen. Hier sollten Sie in Ihrem Unternehmen und jeder Content-Ersteller besondere Vorsicht walten lassen.
Mitarbeiter sensibilisieren: Viele KI-Anwendungen werden inzwischen im Marketing, Vertrieb oder Kundenservice eingesetzt. Klare interne Richtlinien und Schulungen können helfen, Verstöße gegen die Transparenzpflichten zu vermeiden.
Entwicklungen weiter beobachten: Da der EU AI Act schrittweise umgesetzt wird und weitere Leitlinien veröffentlicht werden, sollten Unternehmen die rechtlichen Entwicklungen regelmäßig verfolgen.
Wann entfällt die Kennzeichnungspflicht?
Nicht in jedem Fall ist eine Kennzeichnung erforderlich. Unter einigen Voraussetzungen entfällt die Kennzeichnungspflicht. Dies kann beispielsweise dann der Fall sein, wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden.
Das bedeutet einfach, dass zum Beispiel ein Mitarbeiter in Ihrem Unternehmen den generierten Inhalt auf Richtigkeit geprüft hat und dieser keiner der Markierungsgründe (Imitation einer echten Person oder Szene, offizieller Inhalt für die Öffentlichkeit, etc.) aufweist. Maßgeblich ist, ob der Inhalt weiterhin als vollständig KI-generiert anzusehen ist oder nur als Teil des kreativen Prozesses, wobei das Endprodukt dann vorwiegend menschlich geschaffen ist.
Wurden die Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung unter eigenem Namen oder Marke, kann die Kennzeichnungspflicht entfallen.
Entscheidend ist dabei stets der jeweilige Einzelfall und Unternehmen sollten beachten, dass die genauen Voraussetzungen vom jeweiligen Anwendungsfall abhängen und künftig durch weitere Leitlinien konkretisiert werden können.
Verbraucherrechte und Beschwerdemöglichkeiten
Die neuen Regelungen stärken auch die Rechte von Verbrauchern. Nutzer sollen künftig besser erkennen können, wann sie mit künstlicher Intelligenz interagieren oder wann Inhalte durch KI erstellt wurden.
Wer den Verdacht hat, dass gegen die Transparenzpflichten verstoßen wurde, kann sich an die zuständigen nationalen Aufsichtsbehörden wenden. Darüber hinaus werden innerhalb der Europäischen Union verschiedene Stellen geschaffen, die die Einhaltung der Vorschriften überwachen.
Ziel ist es, Verbraucher vor Täuschung, Manipulation und Desinformation zu schützen und gleichzeitig einen verantwortungsvollen Einsatz von künstlicher Intelligenz zu fördern.
Zusammengefasst: Was Unternehmen ab August 2026 beachten müssen
Ab August 2026 gelten innerhalb der Europäischen Union neue Transparenzpflichten für bestimmte KI-Anwendungen. Unternehmen, Selbstständige und Content-Ersteller sollten sich frühzeitig mit den Anforderungen des EU AI Acts beschäftigen.
Wichtig sind vor allem folgende Punkte:
- Nicht jeder KI-generierte Inhalt ist automatisch kennzeichnungspflichtig.
- Besonders betroffen sind Deepfakes sowie bestimmte KI-generierte Bilder, Videos und Audiodateien.
- Nutzer müssen erkennen können, wenn sie mit einem Chatbot oder einer KI-Anwendung interagieren.
- Die Kennzeichnung muss klar, verständlich und leicht wahrnehmbar sein.
- Unter bestimmten Voraussetzungen können Ausnahmen gelten.
- Unternehmen sollten interne Prozesse und Richtlinien zum Einsatz von KI schaffen.
- Die rechtlichen Vorgaben werden in den kommenden Jahren weiter konkretisiert.
Der EU AI Act verfolgt dabei ein zentrales Ziel: Mehr Transparenz und Vertrauen beim Einsatz künstlicher Intelligenz, ohne Innovationen unnötig zu behindern.
Wichtige Quellen:
Bund: https://bmds.bund.de/service/gesetzgebungsverfahren/gesetz-zur-durchfuehrung-der-ki-verordnung
Verbraucherzentrale: https://www.verbraucherzentrale-finanzen.org/ki-kennzeichnung-pflicht/