Des chercheurs de l'Université Johns-Hopkins, en collaboration avec la Food and Drug Administration américaine, ont mis au point un outil inédit capable de détecter les biais cachés dans les ensembles de données servant à entraîner l'intelligence artificielle médicale. Baptisé G-AUDIT, ce système a fait l'objet d'une publication dans la revue npj Digital Medicine. Il vise à renforcer la fiabilité et la transparence des algorithmes de médecine de précision avant leur déploiement clinique. Les modèles d'IA médicale présentent souvent le même défaut que le célèbre cheval Hans du début du vingtième siècle. Capable de simuler des calculs en observant le langage corporel de son entraîneur, l'animal illustrait comment un système peut trouver des raccourcis inattendus pour atteindre un objectif. Dans le domaine médical, les algorithmes apprennent parfois à tirer des conclusions erronées à partir de signaux secondaires plutôt que de paramètres cliniques pertinents. Par exemple, un modèle conçu pour identifier le sexe d'un patient pouvait se fier à la présence de mascara sur les yeux, ou un algorithme de détection du cancer cutané pouvait associer la qualité d'un appareil photo ou la présence d'une règle sur l'image au risque cancéreux. Contrairement aux méthodes traditionnelles qui vérifient les performances du modèle après son entraînement, G-AUDIT inverse la démarche en analysant les données d'apprentissage elles-mêmes. Le système repère et hiérarchise les métadonnées susceptibles d'induire des corrélations fallacieuses. En examinant des images médicales, des textes et des tableaux de données, les chercheurs ont confirmé sa capacité à révéler des failles invisibles dans la collecte des informations ou les conditions d'imagerie, qui pourraient autrement créer des inégalités de santé lors de l'utilisation réelle. Mathias Unberath, auteur principal de l'étude, souligne que les modèles privilégient systématiquement la prédiction sans contrôle sur les critères utilisés. Le nouvel outil offre ainsi une vision claire des attributs à risque. Son co-auteur Mitchell Pavlak précise que cette approche marque un changement de paradigme : il ne s'agit plus d'auditer les résultats, mais d'anticiper les problèmes directement dans les données. Les équipes de recherche prévoient désormais d'élargir le champ d'application de G-AUDIT au-delà du secteur de la santé. En transformant la méthode d'audit, cet outil répond à un défi majeur de l'intelligence artificielle contemporaine : identifier ce qu'il convient de vérifier plutôt que de se fier à l'intuition des développeurs. À terme, cette innovation devrait contribuer à déployer des systèmes médicaux plus sûrs, plus équitables et véritablement fiables pour les pratiques cliniques de demain.