HyperAIHyperAI

Command Palette

Search for a command to run...

AO3 : une extension détecte les textes générés par l'IA

La communauté des fictions de fan s'organise pour lutter contre l'utilisation de l'intelligence artificielle générative, notamment sur la plateforme Archive of Our Own. Le 29 juin, un compte X anonyme a publié un correctif d'affichage pour AO3 capable d'identifier les textes copiés directement depuis le modèle Claude d'Anthropic. Ce détecteur se base sur la présence d'un code technique spécifique, automatiquement inséré par le chatbot lors du copier-coller. Lorsqu'il est détecté, l'interface de la page devient entièrement rouge. Le déploiement de cet outil a rapidement mobilisé la communauté. Certains utilisateurs l'ont déjà exploité pour identifier et dénoncer publiquement des auteurs dont les œuvres ont été signalées comme générées par IA. Bien que la méthode technique soit valide pour le copier-coller direct, elle présente des limites majeures. Le code disparaît si le texte est modifié sur un traitement de texte externe ou si seule une partie du récit est soumise à l'IA, par exemple pour la relecture ou la traduction. Par conséquent, le marquage rouge ne renseigne ni sur l'ampleur de l'usage de l'IA, ni sur la nature exacte de l'intervention, exposant de nombreux créateurs à de faux positifs. Au-delà de cette polémique technique, le conflit reflète une tension plus large au sein des communautés créatives en ligne. La plupart des fictions sont aujourd'hui jugées au doigt mouillé, à partir d'indices stylistiques comme des structures de phrases répétitives ou un vocabulaire trop fleuri, lesquels sont souvent attribués à tort à l'IA. En réalité, les modèles génératifs reproduisent simplement des styles humains existants, rendant toute distinction automatique hautement fiable encore impossible à ce jour. Pour tenter de préserver un espace de création jugé fondamentalement humain, certains membres soulignent également les préoccupations éthiques et environnementales liées à l'entraînement des IA, qui scrapent massivement les données publiques, y compris les œuvres de fans. Face à cette hostilité, la plateforme AO3 propose pourtant un système de balisage permettant aux auteurs de déclarer l'usage d'outils génératifs. Cependant, en raison des réactions souvent violentes de la communauté, peu d'écrivains optent pour cette transparence. Cette chasse aux sorcières numérique met en lumière les failles des tentatives actuelles de détection de texte génératif. Sans méthode technologique fiable pour analyser les plaines textes, la communauté reste dépendante de suspicions et de signalements communautaires, au risque de pénaliser injustement des auteurs n'ayant utilisé l'IA que pour des tâches mineures de rédaction ou de correction. Tant qu'aucune solution robuste ne verra le jour, la frontière entre création humaine et assistance algorithmique continuera de susciter des controverses dans l'univers des fictions de fan.

Liens associés