Face à la prolifération et au perfectionnement des générateurs d'images par intelligence artificielle, il devient de plus en plus difficile de distinguer le contenu authentique des créations synthétiques. Pour répondre à ce défi, OpenAI a annoncé, ce mardi, deux nouvelles mesures destinées à lutter contre la désinformation visuelle. L'entreprise s'engage désormais à adopter le standard ouvert C2PA, qui intègre une signalisation claire dans les métadonnées de chaque image pour indiquer qu'elle a été générée par une IA. Parallèlement, OpenAI a conclu un partenariat avec Google pour intégrer un filigrane invisible nommé SynthID, conçu pour résister aux tentatives de suppression par des acteurs malveillants. Ces protections sont spécifiquement destinées aux images produites par les produits d'OpenAI, sans pour l'instant s'appliquer aux outils moins fiables ou opaques qui inondent actuellement le marché. Cette initiative vise à garantir que la société ne participe pas involontairement à la propagation de fausses informations. En complément de ces marquages, OpenAI présente également un outil de vérification publique. Ce service permettra aux utilisateurs de tester facilement si une image contient les signaux C2PA ou SynthID, confirmant ainsi son origine. Bien que cet outil soit actuellement limité aux images issues des services d'OpenAI, la société espère élargir sa portée pour couvrir d'autres outils d'IA à l'avenir. Le standard C2PA, porté par la Coalition for Content Provenance and Authenticity, est une organisation à but non lucratif fondée en 2021 pour atténuer les effets néfastes de l'imagerie IA sur le discours public. Bien que déjà adopté par plusieurs produits de Google, son utilisation reste inégale dans l'industrie. Le signal C2PA, accessible directement dans les métadonnées des fichiers, peut être manipulé ou effacé, ce qui le rend principalement utile au sein de cercles de confiance établis. En revanche, SynthID, développé par Google, représente une approche plus robuste. Ce filigrane est conçu pour persister même après des transformations numériques telles que la prise d'écran, le redimensionnement ou d'autres manipulations. Les deux systèmes sont destinés à se compléter mutuellement : le filigrane offre une durabilité accrue face aux altérations, tandis que les métadonnées fournissent des informations plus détaillées que le simple filigrane. Ensemble, ils créent un système de preuve de provenance plus résilient que chaque couche ne pourrait l'être isolément. Ces développements marquent une étape importante dans la tentative de restaurer la confiance dans les contenus visuels numériques. En combinant la transparence des métadonnées et la robustesse des filigranes invisibles, OpenAI et Google espèrent offrir aux utilisateurs les moyens nécessaires pour évaluer l'authenticité des images qu'ils consultent quotidiennement.