OpenAI applique un filigrane invisible à ChatGPT dans l'UE
OpenAI annonce l'intégration d'un filigrane numérique invisible aux textes générés par ChatGPT et Codex au sein de l'Union européenne, conformément aux nouvelles règles de transparence du règlement européen sur l'intelligence artificielle. Ce dispositif, baptisé textGrain et développé en collaboration avec des chercheurs des universités de Pennsylvanie et Yale, fonctionne en modifiant subtilement les choix lexicaux du modèle. Ces ajustements laissent une empreinte indétectable à l'œil nu, mais identifiable par des outils de détection spécialisés. Contrairement aux symboles visuels, le filigrane voyage avec le texte lors de sa copie et n'altère pas les performances du système. Le déploiement s'étalera sur les prochaines semaines pour les utilisateurs européens de tous les plans, tandis que les développeurs pourront activer la fonctionnalité via l'API depuis aujourd'hui, bien que celle-ci reste désactivée par défaut. L'entreprise précise que le système présente des limites techniques. Selon ses tests, le remplacement de seulement dix pour cent des mots par des synonymes fait chuter le taux de détection de 92 à 66 pour cent. Les courts extraits, les réponses mathématiques et les traductions restent également plus difficiles à identifier. OpenAI rappelle également qu'un texte sans filigrane ne prouve pas son origine humaine, celui-ci pouvant provenir d'un autre modèle ou avoir été trop manipulé. En conséquence, l'accès aux outils de détection initiaux est réservé aux chercheurs accrédités et aux organisations expertes, afin d'évaluer la fiabilité et les usages responsables de la technologie. Cette annonce s'inscrit dans un mouvement sectoriel vers plus de traçabilité. Les obligations européennes sont entrées en vigueur le 2 août, incitant plusieurs acteurs majeurs du secteur, dont Google, Meta, Microsoft et Anthropic, à adopter des codes de conduite similaires. Anthropic a déjà appliqué un marquage universel à son modèle Claude, une décision qui avait suscité des réticences parmi certains utilisateurs. OpenAI avait initialement retardé le lancement de son propre système, craignant de perdre une partie de sa base d'abonnés au profit de concurrents moins restrictifs. Le déploiement graduel en Europe marque donc un compromis entre conformité réglementaire, transparence technologique et adoption par le grand public.
