Anthropic équipe Claude d'un filigrane numérique

Anthropic a annoncé le marquage numérique invisible de ses textes générés par Claude. Cette mesure, déployée mondialement depuis le 2 août sur les modèles compatibles, vise à distinguer le contenu créé par l'intelligence artificielle de celui rédigé par des humains. Le filigrane intégré au texte se transmet lors des copier-coller et résiste partiellement aux modifications. Cette approche a été adoptée pour se conformer à la réglementation européenne, en particulier l'AI Act. La décision a suscité des inquiétudes parmi les experts technologiques. L'investisseur Bill Gurley craint qu'Anthropic ne conserve le monopole de la détection de ce marquage, devenant ainsi juge et partie. L'entreprise précise toutefois qu'une interface de programmation gratuite sera bientôt mise à disposition pour permettre aux tiers et aux utilisateurs de vérifier la présence de ce filigrane. D'autres développeurs s'inquiètent du risque de faux positifs, notamment pour des textes légèrement corrigés ou résumés par le modèle. Anthropic assure que le marquage n'affecte ni le sens, ni la qualité des réponses, et sert uniquement à indiquer qu'un contenu a été traité par l'IA. Des interrogations persistent également sur la vie privée et la propriété intellectuelle. L'ancien dirigeant de Microsoft Steven Sinofsky alerte sur la traçabilité numérique et la conservation des données. Parallèlement, le formateur en informatique John Crickett souligne les complications potentielles pour la protection des droits d'auteur sur les productions assistées par intelligence artificielle. Malgré ces réticences, plusieurs professionnels saluent cette transparence. Le développeur Donn Felker y voit un moyen de lutter contre la dégradation des systèmes entraînés sur leurs propres sorties, un phénomène qualifié d'autoconsommation. Aadit Sheth, cofondateur de The Narrative Company, rappelle que cette identification permet au public de discerner les textes générés par une machine. Selon les analyses médiatiques, cette visibilité pourrait également révéler l'usage quotidien de l'IA pour des tâches courantes comme la rédaction de courriels ou de publications professionnelles, soulignant que la crainte d'être identifié n'est peut-être pas aussi répandue qu'on pourrait le penser. Cette initiative s'inscrit dans une tendance plus large du secteur. Google utilise déjà la technologie SynthID pour ses contenus générés, tout comme OpenAI pour les images et l'audio. La plateforme X applique également des étiquettes indiquant la génération par intelligence artificielle. Le marquage de Claude s'ajoute ainsi à un écosystème numérique en pleine adaptation face à la démocratisation des outils génératifs.