Meta lance Content Seal, son détecteur d’images IA

Suite à une demande de son Conseil de surveillance en mars, Meta a lancé en juillet Content Seal, un système de filigrane invisible destiné à identifier les images générées par intelligence artificielle. Intégré aux outils de création Muse, ce filigrane marque les images avec un signal de provenance indétectable à l’œil nu, censé permettre aux outils de détection de distinguer les contenus synthétiques des médias authentiques. L’entreprise affirme que le marqueur résiste aux modifications courantes telles que le recadrage, la compression ou la capture d’écran. Malgré ces ambitions, Content Seal présente plusieurs limitations significatives. À ce jour, il ne s’applique qu’aux images créées avec le modèle Muse, laissant de côté les anciennes générations d’images et la vidéo, bien que la compatibilité vidéo soit promise prochainement. La détection nécessite l’utilisation d’un outil web dédié, non intégré directement dans le chatbot Meta AI au moment du lancement. De plus, le système impose des limites quotidiennes aux vérifications et a échoué à identifier plus de la moitié des images Muse recadrées lors de tests indépendants. Enfin, les contenus marqués ne sont actuellement pas reconnus par des plateformes ou des outils externes, comme en ont témoigné des tests réalisés avec l’assistant Gemini de Google et le portail officiel C2PA. Face à cette architecture, les critiques pointent une redondance par rapport aux standards existants. Google propose déjà SynthID, une technologie de filigrane adoptée par OpenAI et largement intégrée, tandis que la Coalition for Content Provenance and Authenticity, abrégée C2PA, promeut Content Credentials, un standard ouvert sans limite d’usage. Bien que Meta siège au comité de pilotage de la C2PA, elle a privilégié le développement d’une solution propriétaire. Une porte-parole de l’entreprise, Faith Eischen, a indiqué que Meta explore actuellement des moyens de rapprocher la détection des lieux de consultation, tout en précisant que la coopération avec les pairs de l’industrie progresse. Cette stratégie s’inscrit dans une incertitude plus large au sein de la direction. Adam Mosseri, responsable d’Instagram, a oscillé entre l’idée d’offrir aux utilisateurs la possibilité de filtrer les contenus générés par l’IA et celle de se contenter d’une simple étiquetisation, suggérant même que l’identification des médias authentiques pourrait être plus pertinente que celle des faux. Avec trois années de déploiement d’outils de génération d’images et des controverses antérieures sur des étiquetages erronés, le lancement de Content Seal renforce le sentiment d’une approche précipitée. En l’état, Content Seal n’apporte aucun avantage concret aux consommateurs par rapport aux solutions déjà éprouvées et complexifie inutilement la vérification des médias. Pour établir une transparence crédible autour de l’IA, Meta devrait soit renforcer significativement sa technologie actuelle, soit embrasser les standards industriels existants. Sans une intégration élargie et une meilleure fiabilité, le système risque de rester une solution marginale, incapable de répondre efficacement à la prolifération des contenus synthétiques sur les réseaux sociaux et au-delà.