3 000 faux articles médicaux repérés par l'IA
Une audit assisté par l'intelligence artificielle mené par l'École des soins infirmiers de l'Université de Columbia a révélé que près de 3 000 articles médicaux examinés par des pairs contiennent des références citées qui n'existent pas. Cette découverte, publiée dans la revue The Lancet, met en lumière une tendance alarmante au sein de l'édition académique, en particulier à mesure que l'utilisation des outils de génération de texte par l'IA se généralise. L'étude, intitulée Fabricated citations: an audit across 2.5 million biomedical papers, détaille une méthode d'audit automatisé appliquée à 2,5 millions d'articles publiés dans PubMed Central entre le 1er janvier 2023 et le 18 février 2026. Les chercheurs ont interrogé 97,1 millions de références pour vérifier leur authenticité. Ils ont identifié 4 046 citations falsifiées réparties dans 2 810 articles. Le taux de falsification est resté stable autour de quatre références fausses pour 10 000 articles tout au long de l'année 2023. Cependant, à partir du milieu de l'année 2024, ce taux a connu une progression vertigineuse, atteignant environ 57 références fausses pour 10 000 articles au début de 2026. Cette augmentation de plus de douze fois s'aligne précisément avec l'essor des outils d'écriture assistée par IA. Maxim Topaz, directeur de cette étude et professeur associé à l'Université de Columbia, souligne les implications directes de ces résultats sur la sécurité des patients. Les professionnels de santé s'appuient souvent sur des lignes directrices cliniques établies par ces guides, qui se fondent sur des preuves dont l'existence est parfois purement inventée. Topaz note qu'il est impossible pour un clinicien ou un développeur de guide de savoir que les preuves sur lesquelles ils s'appuient n'existent pas. Dans certains cas examinés, plus de la moitié des références étaient falsifiées, et ces citations erronées ont déjà été reprises par d'autres articles et des revues systématiques influençant les soins. Face à ce constat, l'équipe de recherche formule plusieurs recommandations urgentes pour les éditeurs scientifiques. Elle préconise d'abord que chaque article soumis fasse l'objet d'une vérification de ses références avant publication. Les services d'indexation doivent également ajouter des métadonnées aux notices pour permettre aux utilisateurs d'évaluer l'exactitude des sources citées. Enfin, les grandes bases de données sur l'intégrité de la recherche sont invitées à créer une catégorie spécifique dédiée aux références falsifiées afin d'assurer un suivi systématique et une responsabilité accrue. Les auteurs appellent également à un dépistage rétroactif des publications existantes et à l'émission de corrections ou de rétractations là où les références faussent les conclusions d'un article. Au moment de l'audit, 98,4 % des articles affectés n'avaient fait l'objet d'aucune action de la part des éditeurs. Dans un commentaire accompagnant l'étude, Howard Bauchner et Frederick P. Rivara soulignent que cette enquête révèle un problème très perturbant et souligne la nécessité de renforcer et d'améliorer l'intégrité de la recherche. Compte tenu de l'érosion de la confiance du public envers la science dans de nombreux pays, les auteurs doivent être tenus responsables de l'ensemble du contenu de leur manuscrit, y compris des références. Cette étude marque un tournant critique pour la crédibilité de la littérature médicale à l'ère de l'IA.
