IA détecte les biais dans les dossiers médicaux
Une étude menée par des chercheurs de l'Université George Mason, dirigée par Teenu Xavier, examine la capacité des grands modèles de langage à identifier les formulations stigmatisantes dans les dossiers médicaux. Des termes comme toxicomane, non conforme ou personne obèse peuvent renforcer des préjugés et nuire à la prise en charge future des patients. Publiée dans la revue JAMIA Open, cette recherche confirme que l'intelligence artificielle offre un potentiel réel pour détecter ces biais avant la validation clinique, sous réserve d'un paramétrage rigoureux. Les résultats montrent que la précision des algorithmes dépend étroitement de leurs configurations. La taille du modèle, le niveau de température, les consignes fournies et le type de note médicale influencent significativement les performances. Malgré ces variations, un constat demeure constant : la fourniture d'exemples explicites de langage stigmatisant améliore systématiquement la fiabilité de détection. Teenu Xavier insiste sur le fait qu'il ne suffit pas de sélectionner un modèle d'intelligence artificielle pour l'intégrer aux systèmes de santé. Une calibration minutieuse des paramètres et une conception adaptée des consignes sont indispensables pour garantir une utilisation fiable en milieu hospitalier. Sans cette optimisation, le risque d'erreurs compromettrait la confiance des patients et l'équité des soins. Au-delà de l'aspect technique, cette étude plaide pour une collaboration étroite entre les professionnels de santé et les développeurs d'outils numériques. Des modèles pré-entraînés correctement ajustés pourraient faciliter des interventions rapides et des modifications proactives des pratiques documentaires. À terme, ces technologies visent à réduire les biais inconscients, à améliorer la communication soignant-patient et à renforcer la qualité globale de l'expérience clinique. Le succès de l'intelligence artificielle en médecine repose donc moins sur sa puissance brute que sur son adaptation précise aux réalités humaines et cliniques.
