OpenAI hat am vergangenen Dienstag zwei neue Maßnahmen angekündigt, um die Echtheit von Bildern zu überprüfen und der massiven Verbreitung von KI-generierten Inhalten entgegenzuwirken. Angesichts der zunehmenden Sophistikation von Bildgeneratoren ist es für Nutzer und Experten immer schwieriger geworden, zwischen echten und künstlich erstellten Bildern zu unterscheiden. Um dieses Problem anzugehen, hat sich das Unternehmen der offenen C2PA-Norm verschrieben und eine Partnerschaft mit Google für ein unsichtbares Wasserzeichen eingegangen. Das C2PA-Standard (Coalition for Content Provenance and Authenticity), gegründet 2021, fügt den Metadaten eines Bildes ein deutlich erkennbares Signal hinzu, das darauf hinweist, dass es von einer KI erstellt wurde. Dies ermöglicht Nutzern eine schnelle Überprüfung. Parallel dazu entwickelt OpenAI zusammen mit Google die Integration von SynthID, einem robusten, unsichtbaren Wasserzeichen. Im Gegensatz zum Metadatensignal ist SynthID so konstruiert, dass es auch dann erhalten bleibt, wenn böswillige Akteure versuchen, es durch Screenshots, Bildbearbeitung oder Verkleinerung zu entfernen. Die beiden Systeme sollen sich gegenseitig ergänzen: Während Wasserzeichen besonders widerstandsfähig gegen technische Manipulationen sind, liefern Metadaten detaillierte Informationen über die Herkunft. Zusammen schaffen sie eine widerstandsfähigere Echtheitsprüfung als jedes System allein. Es ist wichtig hervorzuheben, dass diese Schutzmaßnahmen aktuell nur für Bilder gelten, die von den Produkten von OpenAI erstellt wurden. Sie sollen sicherstellen, dass OpenAI nicht Teil des Problems der Desinformation wird, haben jedoch keinen direkten Einfluss auf Inhalte, die von anderen, weniger seriösen KI-Tools stammen. Als Reaktion auf die neuen Techniken kündigt das Unternehmen zudem ein öffentliches Verifizierungstool an. Mit diesem können Nutzer zunächst alle Bilder von OpenAI-Produkten auf beide Signalarten prüfen. Das Unternehmen plant, diesen Dienst in Zukunft schrittweise auf andere KI-Tools auszuweiten. Die Einführung dieser Standards kommt zu einem Zeitpunkt, an dem die C2PA-Norm bereits von einigen Google-Produkten genutzt wird, die branchenweite Akzeptanz jedoch noch ungleichmäßig ist. Die Transparenz der Metadaten macht sie zwar für vertrauenswürdige Nutzer zugänglich, aber anfällig für Manipulation. SynthID soll diese Lücke schließen, indem es eine langlebigere Schicht der Authentifizierung bietet. Diese kombinierte Strategie zielt darauf ab, das Vertrauen in digitale Medien zu stärken und die negativen Auswirkungen von KI-generierten Bildern auf die öffentliche Meinungsbildung zu begrenzen. OpenAI betont, dass der langfristige Erfolg von der Zusammenarbeit mit der gesamten Branche abhängen wird, um einheitliche Standards durchzusetzen.