Les outils d’intelligence artificielle (IA) sont de plus en plus utilisés dans le milieu scientifique pour résumer des documents, rédiger des articles ou élaborer des textes de politique. Toutefois, comme le souligne Sam Illingworth dans sa correspondance publiée dans Nature le 21 octobre 2025, ces outils présentent des risques sérieux en matière de fiabilité et d’éthique. Ils peuvent omettre des perspectives critiques, produire des informations fausses ou, comme l’illustre l’article de news cité, « halluciner » des références bibliographiques inexistantes. Ces erreurs, bien qu’elles puissent sembler mineures, ont des conséquences graves sur la crédibilité de la recherche, la qualité des publications scientifiques et la confiance du public dans les résultats scientifiques. L’auteur insiste sur la nécessité d’adopter une approche proactive et rigoureuse pour garantir la sécurité de l’IA dans les contextes académiques et scientifiques. Il met en garde contre une intégration aveugle des outils d’IA sans vérification humaine adéquate, soulignant que la responsabilité de la vérification des contenus générés par l’IA incombe aux chercheurs, aux éditeurs et aux institutions. L’absence de transparence sur l’origine des informations produites par l’IA complique encore davantage la tâche de validation. Illingworth appelle donc à la mise en place de normes claires, de protocoles de vérification et de formations spécifiques pour les chercheurs sur l’utilisation responsable de l’IA. Les implications vont au-delà de la simple vérification des faits : elles touchent à la culture scientifique elle-même. Si les chercheurs deviennent trop dépendants des outils d’IA, cela pourrait affaiblir leur capacité à penser de manière critique, à concevoir des expériences originales ou à interpréter les résultats avec rigueur. De plus, la propagation non contrôlée d’informations erronées ou biaisées par des modèles d’IA pourrait nuire à la recherche dans des domaines sensibles comme la santé, l’environnement ou les politiques publiques. Enfin, l’auteur insiste sur la nécessité d’une gouvernance éthique proactive, incluant des lignes directrices claires pour l’utilisation de l’IA dans la recherche, ainsi que des mécanismes de responsabilité. Il rappelle que la technologie ne doit pas dépasser les capacités humaines de jugement et de contrôle. Sans une vigilance soutenue, l’IA pourrait non seulement compromettre la qualité de la recherche, mais aussi transformer la science en un processus plus automatisé, moins critique et potentiellement moins fiable. Évaluation et perspectives : Les experts du secteur partagent l’inquiétude exprimée par Illingworth. Des institutions comme l’Université d’Édimbourg ou des organisations comme l’Académie des sciences européennes ont lancé des initiatives pour établir des lignes directrices éthiques sur l’IA en recherche. Des entreprises comme OpenAI ou Anthropic ont commencé à intégrer des fonctionnalités de vérification des sources, mais leur efficacité reste limitée. La clé réside dans une collaboration entre chercheurs, éditeurs, développeurs et régulateurs pour créer un écosystème où l’IA sert de soutien, non de substitut, à la pensée critique scientifique.