Des experts de l'Université Flinders mettent en garde contre le rythme effréné de l'intelligence artificielle dans le secteur de la santé, soulignant que les avancées technologiques ne garantissent pas automatiquement la sécurité des patients. Dans un commentaire publié dans la revue Science intitulé « L'IA peut raisonner comme un médecin : que vient ensuite ? », les chercheurs avertissent que des performances impressionnantes dans des études contrôlées ne signifient pas que ces outils sont prêts pour une utilisation clinique de routine. L'accent doit impérativement être mis sur l'intégration sécurisée de ces technologies et sur l'amélioration des résultats réels pour les malades. Les auteurs reconnaissent néanmoins les opportunités offertes par ces nouvelles technologies pour soutenir le personnel médical, en particulier dans des environnements à haute pression. La recherche montre que des systèmes d'IA fondés sur le raisonnement peuvent analyser des scénarios diagnostiques étape par étape et, dans certains cas, égaler ou dépasser la performance de médecins expérimentés. Erik Cornelisse, doctorant à l'Université Flinders et co-auteur de l'étude, note que cela marque un tournant : on passe de simples outils de réponse à des algorithmes capables d'un raisonnement clinique semblable à celui de l'humain sur des tâches textuelles. Cependant, l'équipe de Flinders insiste sur le fait que la pratique médicale réelle va bien au-delà du raisonnement textuel ou des scores de test. La clinique dépend de l'examen physique, de l'écoute du patient, de la compréhension du contexte médical et social, ainsi que de la prise de responsabilité décisionnelle, des éléments que les systèmes d'IA actuels ne peuvent fournir seuls de manière sécurisée. Selon M. Cornelisse, les décisions de santé sont complexes, à haute teneur en risques et profondément humaines ; la précision sur des cas purement textuels ne suffit pas à garantir la sécurité. L'Associate Professor Ash Hopkins, auteur principal de l'étude, rappelle que les soins modernes reposent sur le jugement, la responsabilité et la supervision éthique. Bien que l'IA ait démontré sa capacité à raisonner sur les problèmes cliniques, cette puissance présente des risques potentiels si elle est déployée sans garde-fous suffisants, notamment en matière de biais, d'inégalités de soins et de dommages involontaires aux patients. L'histoire montre que les algorithmes peuvent aggraver les situations lorsqu'ils sont entraînés sur des données incomplètes ou non représentatives. À l'avenir, les chercheurs plaident pour que l'enthousiasme entourant l'IA médicale soit tempéré par une gouvernance solide et des normes d'évaluation claires. Ils soutiennent que, tout comme on n'habilite pas les médecins sans supervision et évaluation, l'IA doit respecter des standards comparables. L'amélioration des résultats des patients dans le monde réel, et non les scores aux examens ou les démonstrations, doit être la véritable mesure du succès. Avec une conception soignée, une supervision stricte et une évaluation rigoureuse, l'IA pourrait devenir un outil puissant pour offrir des soins plus sûrs, plus équitables et plus efficaces à l'échelle mondiale.