Les filigranes IA faussent la détection d'hallucinations

L'intégration de filigranes numériques dans les textes générés par l'intelligence artificielle crée un conflit imprévu avec les systèmes de détection des hallucinations. Alors que les réglementations, comme le règlement européen sur l'IA et les directives chinoises, exigent une traçabilité accrue des contenus synthétiques, plusieurs acteurs majeurs adoptent des solutions de marquage. Google utilise SynthID pour sa famille Gemini, Anthropic prévoit d'en équiper Claude, et OpenAI a développé son propre algorithme sans le déployer. Cette transparence cherche pourtant à entrer en collision directe avec les mécanismes de contrôle de la fiabilité des modèles. Les filigranes fonctionnent en biaisant légèrement le choix des mots aux endroits où le modèle montre le plus d'hésitation, ce qui permet de dissimuler une signature statistique sans altérer la lisibilité. Or, cette technique perturbe gravement deux familles de détecteurs d'hallucinations. Les outils basés sur la variation testent la stabilité des réponses générées à plusieurs reprises, tandis que ceux basés sur la confiance analysent directement les probabilités internes du modèle. Le filigrane supprime la variation naturelle et modifie ces probabilités avant même que le contrôle ne s'exécute. Résultat : les détecteurs sous-estiment systématiquement l'incertitude, masquant potentiellement des informations inventées. Pour contourner ces signatures, des outils de paraphrasage ont émergé, capables de réécrire les textes pour effacer les filigranes. Bien que ces méthodes soient théoriquement inévitables face à un utilisateur déterminé, leur utilisation génère un nouveau problème de sécurité. En modifiant la formulation, ces outils dégradent l'efficacité des vérificateurs basés sur l'ancrage contextuel, qui comparent chaque affirmation aux documents sources. Un texte réécrit peut ainsi perdre ses correspondances avec les preuves initiales, faisant paraître une information correcte comme non vérifiée, tout en introduisant de nouvelles erreurs en bordure de texte. En somme, la sécurité des textes générés par IA traverse un phénomène comparable à l'écrasement d'un ballon : la distorsion ne disparaît pas, elle se déplace. Le marquage initial altère les contrôles d'incertitude, tandis que leur suppression compromet les vérifications factuelles. Cette double dégradation affaiblit la fiabilité globale des systèmes, ouvrant la voie à des usages malveillants où des faux contenus pourraient être artificiellement marqués ou, à l'inverse, des documents authentiques dépouillés de leur traçabilité. Les chercheurs appellent désormais à développer des protocoles de validation compatibles avec ces contraintes techniques, sans lesquels la régulation et la confiance dans les IA génératives risquent de rester compromises.