Une étude menée par des chercheurs de l'Université d'Adélaïde révèle des écarts importants dans la manière dont sont testés les outils d’intelligence artificielle (IA) en milieu médical au stade précoce, lors de ce qu’on appelle des « essais silencieux ». Cette revue globale, publiée dans la revue Nature Health, s’intéresse à cette phase initiale d’évaluation des systèmes d’IA dans les cliniques et met en lumière des disparités considérables dans la manière dont ces essais sont menés, ainsi que dans les critères utilisés pour évaluer l’efficacité des outils. Les « essais silencieux » consistent à intégrer des algorithmes d’IA dans les processus cliniques sans informer les patients ni les médecins, dans le but de tester leur performance dans des conditions réelles. Bien que cette approche puisse permettre une évaluation plus réaliste des outils, l’étude souligne un manque criant de directives claires et de normes partagées. Les protocoles varient fortement d’un établissement à l’autre, et les méthodes d’évaluation de la fiabilité, de la sécurité ou de l’impact sur les décisions médicales sont souvent peu définies ou incohérentes. Les auteurs de l’étude mettent en garde contre les risques associés à cette absence de cadre réglementaire : une mauvaise évaluation des performances de l’IA pourrait entraîner des erreurs diagnostiques, des retards dans les traitements ou une perte de confiance des professionnels de santé. De plus, le fait de ne pas informer les patients sur l’utilisation de l’IA soulève des préoccupations éthiques importantes, notamment en matière de consentement éclairé. L’étude appelle donc à l’élaboration de cadres éthiques et méthodologiques communs pour encadrer ces essais silencieux, afin de garantir la transparence, la sécurité des patients et la validité des résultats. Elle insiste sur la nécessité de développer des lignes directrices internationales claires, qui définissent non seulement les conditions d’utilisation de l’IA en milieu clinique, mais aussi les obligations de suivi, de reporting et de responsabilité. En l’absence de telles normes, les progrès de l’IA en santé risquent de se faire au détriment de la sécurité des patients et de la confiance du public. L’étude conclut que pour que l’IA devienne un outil fiable et intégré dans les soins, il est essentiel de passer d’une phase d’expérimentation désordonnée à une évaluation rigoureuse, éthique et transparente.