Anthropic équipe Claude d'un filigrane pour détecter l'IA
Anthropic introduira prochainement un filigrane imperceptible directement intégré aux textes générés par son modèle d'intelligence artificielle Claude. Cette fonctionnalité, conçue pour améliorer la transparence sur l'usage de l'IA, sera activée par défaut sur les nouveaux modèles déployés à partir du 2 août et fait l'objet d'un portage progressif sur les versions antérieures. Le dispositif s'appliquera à l'ensemble des productions de Claude dans le monde, y compris via les fournisseurs de services cloud. Conçue pour respecter les exigences de la réglementation européenne sur l'IA, cette technologie incruste un motif numérique invisible dans le contenu généré. Contrairement aux filigranes visuels traditionnels, celui-ci préserve parfaitement le sens et la lisibilité du texte. Il reste néanmoins détectable lors de copies, de collages ou de modifications légères. Anthropic prévoit de mettre à disposition des outils de détection pour les éditeurs, les universités et le grand public. Cette avancée intervient à un moment où l'industrie éditoriale et le secteur académique font face à une multiplication des controverses autour des textes rédigés par l'IA. Récemment, des contrats d'édition ont été suspendus ou annulés suite à des suspicions d'usage non déclaré de ces outils, illustrant la difficulté des professionnels à vérifier l'origine humaine des manuscrits. Le filigrane de Claude pourrait ainsi offrir un moyen de vérification supplémentaire pour les maisons d'édition et les établissements d'enseignement. Néanmoins, la technologie présente des limites reconnues par le laboratoire. Des transformations substantielles comme la paraphrase, la traduction, la réécriture lourde ou le mélange avec du contenu rédigé par des humains peuvent rendre le filigrane indétectable. De plus, la présence du marquage ne prouve pas nécessairement que le modèle a généré l'intégralité du texte, un simple relecteur utilisant Claude pouvant laisser des traces. Cette initiative s'inscrit dans une tendance sectorielle plus large, suivie récemment par des annonces similaires de Google DeepMind concernant ses technologies de marquage synthétique. Au final, ce système marque un pas concret vers une traçabilité accrue des contenus numériques, tout en rappelant que la technologie de détection reste un outil d'alerte plutôt qu'une preuve absolue, nécessitant un complément de vérification humaine.
