NEW YORK — Future Doctor, une entreprise chinoise spécialisée dans les technologies de santé basées sur l’intelligence artificielle, a publié récemment une étude novatrice dans la revue npj Digital Medicine, publiée par Nature Portfolio. En collaboration avec 32 experts cliniques, l’équipe a développé un cadre d’évaluation baptisé « Benchmark à double axe sécurité-efficacité clinique » (CSEDB, pour Clinical Safety-Effectiveness Dual-Track Benchmark). Ce modèle vise à évaluer de manière rigoureuse si les systèmes d’intelligence artificielle en milieu médical sont à la fois sûrs et efficaces dans des situations réelles de prise de décision clinique. Le CSEDB représente une avancée significative dans le domaine de l’IA médicale, où les défis liés à la sécurité, à la fiabilité et à l’application pratique des modèles restent préoccupants. Contrairement aux évaluations traditionnelles qui se concentrent principalement sur les performances techniques ou les résultats sur des données de test, le CSEDB intègre deux dimensions essentielles : la sécurité clinique — c’est-à-dire la capacité du système à éviter les erreurs potentiellement dangereuses — et l’efficacité clinique — sa capacité à améliorer les résultats pour les patients. Ce cadre permet ainsi de tester les modèles d’IA dans des scénarios réalistes, proches des pratiques médicales quotidiennes. Dans cette étude, les chercheurs ont comparé plusieurs grands modèles linguistiques, dont OpenAI’s o3 et Google’s Gemini 2.5 Pro, dans des tâches cliniques variées telles que le diagnostic différentiel, la prescription médicamenteuse, l’interprétation de résultats d’examens et la rédaction de rapports médicaux. Les résultats montrent que, bien que ces modèles affichent des performances élevées sur certains indicateurs techniques, leurs comportements réels en contexte clinique révèlent des lacunes critiques en matière de sécurité. Par exemple, certains systèmes ont proposé des traitements inappropriés ou ont ignoré des signes cliniques importants, mettant en lumière les risques associés à une dépendance aveugle à l’IA sans évaluation rigoureuse. L’étude souligne également l’importance de l’implication des professionnels de santé dans le développement et l’évaluation des systèmes d’IA. En intégrant des experts cliniques dès la phase de conception, le CSEDB vise à garantir que les outils d’IA soient non seulement techniquement performants, mais aussi conformes aux normes éthiques et pratiques du soin médical. Les auteurs de l’étude appellent à une régulation plus stricte et à des normes d’évaluation standardisées pour l’IA en santé, afin de protéger les patients et favoriser une adoption responsable des technologies. Le CSEDB est présenté comme un outil prometteur pour guider les fabricants, les régulateurs et les établissements de santé dans l’évaluation des systèmes d’IA avant leur déploiement en milieu clinique. Cette recherche marque une étape importante vers une IA médicale plus fiable, transparente et centrée sur le patient. Elle s’inscrit dans une dynamique mondiale visant à harmoniser les standards d’évaluation des technologies d’intelligence artificielle dans le secteur de la santé, en particulier à l’heure où les modèles linguistiques deviennent de plus en plus présents dans les systèmes de soins.