Seit diesem Sonntag hat die Europäische Union neue Transparenzvorschriften für KI-generierte oder -bearbeitete Inhalte eingeführt. Diese basieren auf Artikel 50 des EU-KI-Gesetzes und sollen Nutzern deutlich machen, ob sie auf künstlich erzeugte oder manipulierte Inhalte stoßen.
Das Hauptziel der EU ist es, Täuschung, Desinformation und Manipulation, insbesondere durch Deepfakes, einzudämmen. Betroffen sind vor allem Bilder, Videos, Audiodateien und Texte. Anbieter von KI-Systemen sind nun verpflichtet, künstlich erzeugte oder veränderte Inhalte mit maschinenlesbaren Markierungen zu versehen, damit deren Ursprung technisch nachvollziehbar ist. Bei Deepfakes – also realistisch wirkenden, aber künstlich hergestellten Darstellungen von Personen – muss zusätzlich für den Nutzer klar erkennbar sein, dass der Inhalt künstlich generiert oder modifiziert wurde.
Eine spezielle Regelung betrifft Texte: Werden KI-generierte oder bearbeitete Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von allgemeinem Interesse zu informieren – etwa politische Prozesse, öffentliche Sicherheit, Gesundheit, Umwelt oder wirtschaftliche Entwicklungen –, so ist eine Kennzeichnung erforderlich.
Allerdings gibt es eine wesentliche Ausnahme für journalistische und redaktionelle Veröffentlichungen: Wenn ein KI-generierter Text von einem Menschen überprüft wurde oder einer redaktionellen Kontrolle unterliegt, entfällt die Kennzeichnungspflicht. Voraussetzung ist, dass die Redaktion tatsächlich die Möglichkeit hat, Inhalte aus sachlichen Gründen zu prüfen, anzupassen oder abzulehnen.
Nicht jede Nutzung von KI führt also automatisch zu einem Hinweis. Ausgenommen sind etwa Anwendungen, bei denen KI lediglich unterstützend bei einer normalen Bearbeitung eingesetzt wird und die ursprünglichen Inhalte oder ihre Bedeutung nicht wesentlich verändert werden. Auch rein private Veröffentlichungen fallen nicht generell unter diese Pflichten.
Die neuen Transparenzpflichten gelten grundsätzlich ab dem 2. August 2026. Für KI-Systeme, die bereits vor diesem Datum auf den EU-Markt kamen, gibt es eine begrenzte Übergangsfrist bis zum 2. Dezember 2026 für die technische Kennzeichnung und Erkennung. Inhalte, die vor dem 2. August veröffentlicht wurden, müssen nicht nachträglich markiert werden.
Die EU-Kommission erhofft sich von den Regeln, dass Bürger künstlich erzeugte Inhalte leichter erkennen und bewusster damit umgehen können. Angesichts immer realistischerer Deepfakes soll verhindert werden, dass manipulierte Medien als authentisch wahrgenommen werden. Transparenz wird daher als Grundlage für mehr Vertrauen in KI und für die Integrität der öffentlichen Kommunikation gesehen.
Die praktische Umsetzung dürfte jedoch herausfordernd sein. Anbieter müssen technische Kennzeichnungsverfahren entwickeln, während Unternehmen, Medien und andere professionelle Nutzer klären müssen, wann ein Inhalt kennzeichnungspflichtig ist. Verstöße können hohe Strafen nach sich ziehen: Für Unternehmen sind Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes vorgesehen.
Mehr zum Thema – Nach OpenAI: Auch Anthropic-KI startete eigenständig Cyberangriffe