Mitglieder im Fokus

Drei Fragen an Marco Urban/FREELENS zur Kennzeichnungspflicht von KI-generierten Inhalten

Wie schätzen Sie das am 2. August 2026 in Kraft getretene Gesetz der EU zur Kennzeichnung von KI-generierten Inhalten ein?


»Grundsätzlich ist die Kennzeichnungspflicht zu begrüßen. Sie soll Täuschung möglichst verhindern und KI-Inhalte als solche erkennbar machen. Sie hat allerdings Lücken: Eine Manipulation von Fotografien ohne Einsatz von KI ist nicht Thema des AI Act. Es gibt keine gesetzliche Grundlage für den Erhalt der Bearbeitungshistorie von Fotografien, mit der später sichtbar gemacht werden könnte, welche Bearbeitung tatsächlich vorgenommen wurde, obwohl Standards wie C2PA existieren. Medien, die gekennzeichnete Bilder publizieren, sind nicht wirklich verpflichtet, die Kennzeichnungen beizubehalten. Z. B. gibt es für den nachträglichen Beschnitt keine Regelungen. Publizierende sind auch gar nicht Adressaten des entsprechenden Code of Practice oder der Guidelines. Es gibt einige Vereinfachungen, z. B. für Karikaturen oder Satire, die gerade im Bereich der politischen Kommunikation zu Problemen führen können und meiner Ansicht nach nicht zwingend nötig gewesen wären. Leider müssen Bilder auch dann schon sichtbar gekennzeichnet werden, wenn sie an den Kunden übergeben werden. Da in diesem Moment der Zuschnitt aber noch vom Kunden verändert werden kann, können Kennzeichnungen verschwinden. Das liegt allerdings nicht mehr in derVerantwortung der Fotograf*innen.«

Konnten Fotograf:innen bzw. Fotografie-Verbände Einfluss auf das Gesetz nehmen?

»Das Gesetz ist der AI Act. In den letzten Monaten ging es darum, das Kapitel Transparenz der dazugehörigen Code of Practice und die entsprechenden Guidelines zu entwickeln. Die kleine Task-Force der AG Fortschritt des Deutschen Fotorates um Jürgen Scriba hat sich sehr umfangreich in die Konsultationen des AI Office der Europäischen Kommission eingebracht und nach dem Ergebnis konnten wir auch einiges bewirken. Tatsächlich kann man sagen, dass unsere Meinung sogar recht gefragt war, weil wir die Praxis kennen.
Im Gegensatz zum letzten Entwurf lassen die finalen Guidelines zur Umsetzung der Kennzeichnungspflicht deutlich mehr Raum für Interpretationen. Einige Bearbeitungen von Fotografien sind möglich, ohne dass eine Kennzeichnung als „AI modified“ erfolgen muss. Kleine Beauty-Retuschen sind möglich geworden, wenn sie nicht dazu führen, dass der Betrachter getäuscht wird – wobei keine Täuschungsabsicht bestehen muss.
Die Hoffnung, dass durch die Kennzeichnungspflicht auch werbliche Motive – zumindest bei hochwertigen Produkten – weiterhin fotografiert werden, könnte sich als berechtigt erweisen. Wir werden sehen, wie sich das in der Praxis auswirkt. Ist ein KI-Logo auf einem werblichen Bild egal oder wird es als negativ empfunden? Fordern Konsumenten authentische Fotografien oder ist das eigentlich egal, solange alles nur schön bunt ist? Macht es für die Glaubwürdigkeit einer Botschaft überhaupt einen Unterschied, ob sie mit einem authentischen Foto überbracht wird oder mit einem KI-generierten Bild?«

Welche Herausforderungen ergeben sich dadurch für die Arbeit Ihrer Mitglieder?

»Durch die weicheren Regelungen und weniger scharfen Abgrenzungen tragen Fotograf*innen mehr Verantwortung. Sie müssen häufiger selbst beurteilen, ob Bearbeitungen gekennzeichnet werden müssen oder nicht. Dafür gibt es viele Kriterien, zum Beispiel auch, wer die Zielgruppe eines Bildes ist. Die Graubereiche werden sich wohl als ziemlich groß erweisen. Eine Verpflichtung der KI-Unternehmen, den Output ihrer Generatoren maschinenlesbar (aber nicht sichtbar) zu kennzeichnen, tritt erst ab Anfang Dezember in Kraft. Möglicherweise könnte man so die Kennzeichnung stärker automatisieren. So könnte ab einem bestimmten Grad der Bearbeitung die Software ihren Nutzer fragen, ob sie kennzeichnen soll, da bestimmte Voraussetzungen erfüllt sind.
Mogeln ist übrigens keine gute Idee. Ebenfalls ab Anfang Dezember sind die KI-Unternehmen verpflichtet, jedermann die Möglichkeit zu geben, Werke daraufhin zu untersuchen, ob sie mit der KI des Herstellers bearbeitet oder erstellt wurden. Von Open AI gibt es so einen Detektor bereits: 
https://openai.com/de-DE/research/verify/ Der sicherste Weg zur Vermeidung einer KI-Kennzeichnung ist, generative KI grundsätzlich zu meiden. Im Journalismus wäre der Einsatz ohnehin nicht akzeptabel - abgesehen von einigen technischen Bearbeitungen wie z. B. moderate Rauschreduzierung. Wer genKI nutzt, sollte darüber mit seinen Kunden in den Austausch gehen und sich intensiv mit der Kennzeichnungspflicht auseinandersetzen.«