Une étude récente publiée dans la revue PLOS Digital Health met en lumière les limites de la confiance des médecins envers les outils d'intelligence artificielle en milieu clinique. Menée par une équipe de l'Université du Pays basque en Espagne, dirigée par Aranzazu Vinas, cette recherche interroge l'impact des recommandations algorithmiques sur la prise de décision médicale. Les chercheurs ont soumis 223 praticiens à des tests en ligne où ils devaient trier des patients nécessitant un traitement expérimental pour une maladie rare. Un système d'IA fournissait des classifications pour guider les médecins. Cependant, l'efficacité réelle du traitement simulé était indépendante des suggestions de l'algorithme : elle variait uniformément entre une efficacité modérée et une inefficacité totale selon les séries de tests. Malgré la réception de données de récupération des patients qui contredisaient directement les conseils de l'IA, la majorité des médecins a maintenu leur confiance envers l'outil numérique. Ils ont difficilement intégré les retours cliniques et n'ont pas détecté, dans un scénario, l'absence totale d'efficacité du traitement. Les co-auteurs Helena Matute et Fernando Blanco expliquent que ce phénomène dépasse le seul domaine médical. Il démontre une tendance psychologique répandue chez les humains, qui peinent à réviser leurs jugements lorsque des preuves factuelles s'opposent aux propositions d'un algorithme. Cette surconfiance automatique expose le secteur de la santé à des risques concrets de prise en charge inadéquate et souligne la vulnérabilité des processus de validation humaine face à l'automatisation. Ces résultats appellent à une adaptation stricte des protocoles d'intégration technologique dans les établissements de soins. Les auteurs recommandent de développer des formations et des interfaces centrées sur le renforcement de la pensée critique médicale. L'objectif est d'instaurer une supervision humaine plus active, permettant de concilier les gains d'efficacité offerts par l'IA tout en prévenant les erreurs de jugement. À mesure que les outils algorithmiques se généralisent dans la prise en charge des patients, ces travaux soulignent l'urgence de concevoir des garde-fous institutionnels et de former les professionnels à une utilisation critique et vigilante des recommandations numériques.