Un développeur affirmant se faire appeler Aloshdenny a déclaré avoir réussi à inverser l'ingénierie du système de filigrane SynthID de Google DeepMind. Selon ses dires, ce système permettrait de retirer les filigranes des images générées par IA ou de les insérer manuellement dans d'autres œuvres. Cette affirmation a été démentie par Google, qui maintient que l'outil ne peut pas supprimer systématiquement ces marqueurs. Le code de l'expérience a été mis en open-source sur GitHub. Aloshdenny a documenté son processus, affirmant avoir utilisé uniquement 200 images générées par le modèle Gemini, des techniques de traitement du signal et beaucoup de temps libre. Il précise que cette réussite ne nécessite aucun réseau de neurones ni accès à des propriétés privées. Son analyse suggère que les pixels des images considérées comme « purement noires » contiennent le filigrane en clair, rendant sa détection possible pour un utilisateur averti. SynthID est un système de filigrane quasi invisible intégré dans les pixels des images dès leur création par les outils d'IA de Google. Conçu pour être difficile à retirer sans dégrader la qualité visuelle, il est déployé à grande échelle sur les produits de Google, y compris les sorties des modèles Nano Banana et Veo 3, ainsi que sur les clones de créateurs générés par IA sur YouTube. Aloshdenny a qualifié le système de « véritablement bon en ingénierie ». Cependant, ses tests n'ont pas permis de supprimer entièrement le filigrane SynthID. À la place, sa méthode visait à perturber les décodeurs chargés de lire ces marques, les incitant à abandonner leur lecture plutôt qu'à éliminer la donnée elle-même. Le processus détaillé pour décomposer les mécanismes sous-jacents du filigrane Google est techniquement complexe et réservé aux développeurs expérimentés. Une analyse simplifiée indique que le fait que le meilleur résultat obtenu ait été de confondre le décodeur souligne la qualité de la conception de SynthID. Aloshdenny estime que le système n'est pas parfait, mais qu'il ne vise pas l'inviolabilité. Son objectif principal est d'élever suffisamment le coût d'une mauvaise utilisation pour dissuader la majorité des acteurs. Il n'a pas encore été vérifié de manière indépendante par les rédacteurs si le projet reverse-engineering est réellement efficace en pratique. À ce stade, il ne semble pas que SynthID ait été véritablement inversé à un point où des scripts automatiques pourraient permettre de retirer ou d'ajouter le filigrane de Google pour tromper les systèmes de détection de l'IA. Google a officiellement rejeté les allégations du développeur. Myriam Khan, porte-parole de l'entreprise, a déclaré que l'affirmation selon laquelle l'outil peut supprimer systématiquement les filigranes SynthID est incorrecte. Elle a réitéré que SynthID reste un outil robuste et efficace pour l'identification du contenu généré par IA. La controverse met en lumière les défis persistants de la sécurité des filigranes numériques face aux tentatives de contournement, tout en soulignant la résilience relative des systèmes actuels de protection des contenus IA.