Quelle: TikTok
Sind wir nun im Kampf gegen allgemeine Verwirrung und Manipulation durch KI-generierte Bilder einen Schritt weiter?
Die Verlautbarungen von TikTok und der CAI lassen Hoffnung aufkommen.
https://contentauthenticity.org/blog/tiktok-joins-content-authenticity-efforts
Verpflichten sich die Macher der App, der gemeinhin ungeheures Suchtpotential nachgesagt wird und die als Inbegriff der undifferenzierten Rundumberieselung der Jugend mit Propaganda und Desinformationen aller Art gilt, mit Ihrem Beitritt zur Content Authenticity Initiative KI-generierten Content zukünftig automatisch zu kennzeichnen.
TikTok nimmt für sich in Amspruch, die erste Videosharing plattform zu sein, die Content Credentials implementiert, es also den NutzerInnen ermöglicht, über Metadaten im Content herauszufinden, wie dieser hergestellt worden ist. Solche Credentials sollen in naher Zukunft auch unlöschbar mit dem Content verbunden bleiben, wenn Videos von TikTok heruntergeladen und weiterverwendet werden.
Zudem will TikTok im Laufe des Jahres Aufklärungsvideos zur Medienmündigkeit verbreiten, mit denen die Zielgruppe dafür sensibilisiert werden soll, Fakten und Fiktionen zu unterscheiden. Dazu dient eine Partnerschaft mit Mediawise
„Our Teen Fact-Checking Network has built an audience with innovative media literacy videos on TikTok since 2019. Five years later, we’re thrilled to empower even more people to separate fact from fiction online.”
Alex Mahadevan, Director, MediaWise
Das ist doch sehr löblich. Man sollte sich jedoch stets vor Augen halten, dass das automatischen Kennzeichnen von KI-Inhalten nur dann funktioniert, wenn diese Inhalte schon entsprechende Metadaten bzw. Wasserzeichen eingebettet haben. Eine automatische Erkennung von KI-Content anhand der Bildinhalte funktioniert schon seit einiger Zeit nicht mehr zuverlässig, wie wir ja auch selbst schonmal ausprobiert haben. Die Ankündigung bezieht sich daher auch nur auf Content „von bestimmten Plattformen“, und wird erst „allmählich“ wirksam werden.
„The increase in auto-labeled AIGC on TikTok may be gradual at first, since it needs to have the Content Credentials metadata for us to identify and label it. However, as other platforms also implement it, we’ll be able to label more content.“
TikTok
Wie knifflig das mit der Automatik ist, zeigt auch das neueste Tool von OpenAI: Die Firma stellte gerade einen Detektor für KI-Bilder vor, der mit einer Trefferquote von 98,8 Prozent solche Pseudo-Fotos erkennen kann – allerdings nur, wenn diese mit dem hauseigenen Dall-E Generator erzeugt wurden. Bei Bildern, die von Konkurrenzplattformen stammen (und die im allgemeinen als deutlich fotorealistischer gelten als die Dall-E-Erzeugnisse), beträgt die Trefferquote nur enttäuschende 5-10 Prozent, und damit deutlich schlechter als das zufällige Raten.
https://petapixel.com/2024/05/08/openai-launches-deepfake-detector-than-can-spot-dall-e-images/
Quelle: Meta
Schauen wir mal, welche Auswirkungen die kürzlich Facebook-Mutter Meta verkündete Offensive zur Kennzeichnung von „Made with AI“ haben wird, die diesen Monat wirksam werden soll.
Wer sich für schlauer hält, kann ja das KI-Bild-Erkennungsquiz der Wirtschaftwoche machen.
Dort soll die Hälfte der Testbilder Echtfotos zeigen, die andere Hälfte Synthetikmenschen.
Dass dies per Auge jetzt schon kaum noch geht und in Zukunft komplett unmöglich sein wird, ist klar. Zumal nicht nur die visuelle Qualität, sondern auch die Auflösung der generierten Bilder immer besser wird.
Aktuell behelfen sich versierte Promptologen damit, die üblichen Auflösungen von KI-Bildern im Bereich von 1024 Pixeln nach der Generierung hochzurechnen (meist mit weiterer KI-Hilfe).
Dieses hochtechnische Paper müsst Ihr nicht lesen, aber die Zusammenfassung verspricht:
Mit dem dort vorgestellten Verfahren lässt sich praktisch jede Pixel-Auflösung errechnen, ohne dass wie bei den bisherigen Modellen der Bedarf an Speicherplatz explodiert. Bei den bisher machbaren Auflösungen soll das neue Modell nur noch ein Fünftel des heute üblichen Speicherbedarfs haben.
Quelle: Apple / Petapixel
Abschließend noch der Hinweis auf ein gar nicht mal so polemisches Stück zum Shitstorm, den sich Apple eingefangen hat mit seinem Werbespot zum superdünnen neuen iPad, das mit Chips angetrieben wird, die in Zukunft alle möglichen KI-Anwendungen besonders performant werkeln lassen soll.
In dem Video zerstört eine monströse Presse Musikinstrumente und anderes Zubehör von Künstlern und Kreativen um am Ende das geniale Digitalgerät freizugeben. Nicht wenige empfinden das als Kampfansage an ihre Kunst nach dem Motto „Das machen wir in Zukunft alles mit KI“.
Auto Alberto Romero diagnostiziert in seinem Essay „Auch Äpfel verrotten“ einen kompletten Mangel an Empathie im Silicon Valley, der bei den Verantwortlichen offenbar gar nicht den Hauch einer Vorahnung aufkommen ließ, dass zum Beispiel Musiker es gar nicht zum Schmunzeln finden, wenn eine Trompete plattgequetscht wird oder ein Klavier unter dem Druck der Presse zersplittert.
Quelle: Alberto Romero
Inzwischen sah sich Apple zu einer Entschuldigung genötigt und wird den bösen Spot nicht mehr für TV-Werbung einsetzen:
“Creativity is in our DNA at Apple, and it’s incredibly important to us to design products that empower creatives all over the world. … We missed the mark with this video, and we’re sorry.”
Tor Myhren, Apple VP Marketing
Bis demnächst
Jürgen