Les longs échanges IA révèlent des failles de désinformation

Une étude menée par l’Université de l’Arizona et publiée dans Scientific Reports révèle des vulnérabilités persistantes face à la désinformation dans les conversations prolongées avec des intelligences artificielles génératives. Les chercheurs ont évalué sept grands modèles de langage, notamment ChatGPT dans ses versions 3.5, 4o et 4o-mini, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama-3-70B et DeepSeek-R1. Leur analyse porte sur trois critères : la propension à se tromper, la facilité à être persuadé et la capacité à corriger des affirmations erronées. Contrairement aux tests ponctuels qui masquent souvent ces faiblesses, les échanges multi-tours, plus proches des usages réels, ont exposé des limites structurelles. L’équipe, dirigée par le Dr Marvin Slepian, cardiologue et membre fondateur de l’Arizona Center for Accelerated Biomedical Innovation, a identifié quatre types d’échecs dans la validation des faits. Parmi ceux-ci, un phénomène qualifié de réverbération se distingue : le modèle oscille entre l’acceptation et le rejet successifs d’une même information fausse. Selon les chercheurs, cette instabilité peut mener à des conséquences imprévisibles dans des contextes exigeants. Ces résultats soulèvent des questions de sécurité majeures, d’autant que l’encadrement réglementaire, largement anticipé dès le lancement des chatbots grand public en novembre 2022, n’a pas suivi le déploiement massif de ces technologies. Le Dr Slepian, qui a précédemment présidé le sous-comité sur l’IA au Bureau américain des brevets, insiste sur le fait que la vigilance repose désormais principalement sur les utilisateurs. Les modèles propriétaires, dont les algorithmes restent opaques, compliquent encore l’audit et la correction de ces dysfonctionnements. Pour répondre à ces défis, le laboratoire AI Pathology Lab de l’Université de l’Arizona développe actuellement des outils de diagnostic ciblés sur les modèles ouverts. L’équipe applique une approche médicale, analysant le fonctionnement interne des réseaux comme l’anatomie et la physiologie, afin d’identifier et de prévenir les dérives. Cette recherche confirme que l’intégration fiable des IA dans des domaines critiques nécessite non seulement des avancées techniques, mais aussi une vigilance humaine constante et des mécanismes de vérification robustes.