Une récente étude met en lumière les risques majeurs que présentent les modèles d'intelligence artificielle médicale pour la confidentialité des données des patients. Les chercheurs ont démontré que des attaques par déduction d'appartenance permettent à un utilisateur non autorisé de déterminer avec une grande précision si les données médicales d'un individu spécifique ont été utilisées pour entraîner un algorithme. Dans certains cas, cette simple vérification suffit à révéler un diagnostic sensible, comme la présence d'un cancer. L'analyse révèle que ces risques de confidentialité sont extrêmement inégaux. Plutôt que de concerner l'ensemble des patients de manière homogène, les vulnérabilités se concentrent sur des sous-groupes spécifiques. Les personnes issues de minorités sous-représentées dans les jeux de données d'entraînement, ainsi que celles souffrant de pathologies rares, sont bien plus exposées. Cette disparité pourrait aggraver les inégalités de santé existantes en décourageant ces populations de participer à la recherche médicale. Par ailleurs, la puissance des modèles joue un rôle crucial. Plus l'intelligence artificielle est performante et volumineuse, plus elle mémorise les données d'entraînement, augmentant ainsi drastiquement le taux de réussite des attaques. Les mesures d'évaluation traditionnelles, qui se basent sur des moyennes agrégées, masquent complètement ces risques individuels et donnent une fausse impression de sécurité. Une analyse au niveau du patient s'avère indispensable pour évaluer correctement la vulnérabilité réelle des systèmes déployés. Pour répondre à ces défis, les chercheurs recommandent d'abandonner les approches actuelles au profit de techniques de protection mathématiquement vérifiables, telles que la confidentialité différentielle. En ajoutant un bruit contrôlé lors de l'entraînement des modèles, cette méthode limite l'influence de chaque donnée individuelle sans compromettre significativement la précision diagnostique. L'implémentation de cette confidentialité au niveau du patient, et non uniquement de la fiche médicale, est jugée nécessaire pour une protection optimale. À mesure que l'intelligence artificielle médicale se généralise, adopter ces garanties de confidentialité dès la phase de développement sera essentiel pour préserver la confiance des patients et assurer le déploiement éthique et sécurisé de ces technologies.