OpenAI macht Bildherkunft nachvollziehbar
OpenAI und Google haben neue Maßnahmen zur Transparenz und Verifizierung generierter Medien angekündigt, um die Authentizität von Inhalten im Zeitalter fortschrittlicher KI besser nachvollziehbar zu machen. Der Fokus liegt darauf, für Nutzer und die breite Öffentlichkeit klarer zu kennzeichnen, ob Bilder, Videos oder Audioinhalte künstlich erzeugt oder bearbeitet wurden. Ein zentraler Bestandteil dieser Initiative ist die Integration des SynthID-Wasserzeichens von Google in die Generierungsmodelle von OpenAI. SynthID ist eine unsichtbare Technologie, die Signale direkt in die Mediendateien einbettet. Diese Markierungen sind selbst bei Veränderungen wie Zuschneiden, Komprimieren oder Screenshot-Erstellung schwer zu entfernen, was sie robuster gegen Manipulationen macht. Gleichzeitig setzt OpenAI auf den C2PA-Standard (Coalition for Content Provenance and Authenticity). Dieser standardisierte Ansatz fügt Metadaten hinzu, die dokumentieren, wie und mit welchen Tools ein Medium erstellt oder verändert wurde. Die Zusammenarbeit zielt darauf ab, die Stärken beider Systeme zu kombinieren. Während das unsichtbare Wasserzeichen die Haltbarkeit der Kennzeichnung über verschiedene Bearbeitungsformate hinweg sicherstellt, liefert der C2PA-Standard detaillierte Informationen über die Herkunft im Klartext. Dies macht die Provenienz von Inhalten widerstandsfähiger als jede einzelne Methode für sich allein. Die Verifizierung dieser Informationen wird für Endnutzer deutlich erleichtert. Über die Suchmaschine Google, den Chrome-Browser und die Gemini-Anwendung können Nutzer nun direkt abfragen, ob ein Bild mit KI erstellt wurde. Funktionen wie „Circle to Search" oder „AI Mode" in der Google-Suche ermöglichen es, nach Ursprüngen zu fragen oder Änderungen an Fotos zu prüfen. Auch das SynthID-Tool für die Überprüfung von Bildern, Videos und Audio wurde bereits in die Gemini-App integriert und ist dort nutzbar. Zusätzlich werden diese Fähigkeiten in den kommenden Wochen in die Google-Suche und den Chrome-Browser eingeführt. Bei Google-Pixel-Geräten der Modellreihen 8, 9 und 10 werden die Inhalte der Kamera bereits beim Einfangen mit C2PA-Inhaltscredentials versehen. Dies dokumentiert nicht nur die Erstellung, sondern auch eventuelle nachträgliche Bearbeitungen. Pixel 10 ist als erstes Smartphone mit dieser Funktion in der nativen Kamera-App ausgestattet, wobei die Unterstützung für Videos auf älteren Modellen folgt. Die aktuellen Schutzmaßnahmen gelten vorerst primär für Inhalte, die von OpenAI-Produkten erzeugt werden, um sicherzustellen, dass diese nicht zur Verbreitung gefälschter Inhalte beitragen. Das Unternehmen plant jedoch, die öffentliche Verifizierungsfunktion in Zukunft auch auf andere KI-Tools auszudehnen. Die Nichtregierungsorganisation C2PA, die diesen Standard entwickelt hat, setzt sich dafür ein, die negativen Auswirkungen von KI-Inhalten auf die öffentliche Meinungsbildung zu mildern. Trotz dieser Fortschritte bleibt die flächendeckende Adoption in der Branche unterschiedlich, und die Sicherheit der Metadaten hängt immer noch von der Integrität der verwendeten Tools ab. Dennoch markiert diese Kooperation zwischen zwei Tech-Giganten einen signifikanten Schritt in Richtung eines vertrauenswürdigeren digitalen Ökosystems.
