Une étude publiée en 2026 dans la revue Nature révèle une faille critique dans la sécurité des systèmes d'intelligence artificielle utilisés en milieu médical. Jusqu'à présent, les tests de confidentialité se concentraient sur des moyennes globales, masquant des risques individuels majeurs. Les chercheurs ont mené la première évaluation au niveau de chaque patient et ont démontré que des attaques par inférence d'appartenance peuvent identifier la participation de personnes spécifiques à l'entraînement des modèles avec une précision quasi parfaite. Ces attaques exploitent la tendance des algorithmes à être légèrement plus confiants lors de la prédiction de données qu'ils ont déjà rencontrées pendant leur apprentissage. Un attaquant n'a besoin d'aucun accès au code source du système. Il lui suffit d'interroger l'IA avec des données médicales, comme une radiographie pulmonaire ou une image dermatologique, pour déduire si le dossier d'un patient particulier a servi à l'entraînement. Les méthodes traditionnelles de désidentification, telles que la suppression des noms ou l'utilisation de pseudonymes, se révèlent inefficaces face à ces procédures modernes. La découverte la plus préoccupante réside dans l'inégalité de cette exposition. Les analyses montrent que la vulnérabilité n'est pas répartie uniformément. Les patients issus de minorités raciales, ceux couverts par des programmes d'assurance Medicaid et les personnes atteintes de maladies rares présentent un risque de divulgation nettement supérieur à celui de la population générale. Cette disparité découle en partie de la rareté ou de la similitude de leurs dossiers médicaux, que les algorithmes identifient plus facilement. L'étude met également en évidence un compromis inhérent au développement de l'IA médicale : plus un modèle devient performant pour poser des diagnostics précis, plus il mémorise ses données d'entraînement et amplifie les fuites de confidentialité. Pour y remédier, les chercheurs recommandent l'adoption systématique de la confidentialité différentielle au niveau patient. Cette approche consiste à injecter un bruit mathématique calculé dans les données ou les sorties du modèle, garantissant ainsi que la présence ou l'absence d'un individu précis ne puisse être déduite, même pour les cas les plus identifiables. Au-delà des aspects techniques, ces résultats soulèvent un enjeu sociétal majeur. Une protection inégale de la vie privée risque d'éroder la confiance des populations marginalisées envers les outils numériques de santé. Une baisse du taux de partage de leurs données médicales pourrait à son tour réduire la représentativité des futurs modèles, creusant ainsi les inégalités existantes dans les soins. La mise en place de garde-fous vérifiables au niveau individuel apparaît désormais comme une condition indispensable pour concilier innovation diagnostique et respect des droits des patients.