Emma Kondrup Anne Imouza

Résumé

Grâce aux progrès rapides des grands modèles linguistiques (LLM), le grand public dispose désormais d’un accès facile et abordable à des applications capables de répondre, de manière personnalisée, à la majorité des questions liées à la santé. Ces LLM se révèlent de plus en plus compétitifs, et dépassent même certains professionnels dans certaines capacités médicales. Ils offrent une promesse particulière dans les contextes à ressources limitées, en raison de leur potentiel à fournir un soutien médical largement accessible, quasi gratuit. Toutefois, les évaluations qui alimentent ces espoirs manquent fortement d’insights sur la dimension sociale des soins de santé, en ignorant les inégalités de santé entre les groupes sociaux, ainsi que la manière dont les biais peuvent se traduire par des recommandations médicales générées par les LLM et avoir un impact sur les utilisateurs. Nous proposons une analyse exploratoire des réponses fournies par les LLM à une série de questions médicales couvrant des domaines cliniques clés, en simulant ces questions posées par différents profils de patients variant selon le sexe, l’âge et l’ethnicité. En comparant les caractéristiques du langage naturel des réponses générées, nous montrons que, lorsqu’ils sont utilisés pour générer des conseils médicaux, les LLM produisent des réponses systématiquement différentes selon les groupes sociaux. En particulier, les patients autochtones et intersexes reçoivent des conseils moins lisibles et plus complexes. Ces tendances s’accentuent lorsqu’on considère des groupes intersectionnels. Étant donné la confiance croissante que les individus accordent à ces modèles, nous plaidons pour une meilleure littératie en intelligence artificielle, ainsi que pour une investigation urgente et une mise en œuvre de mesures correctives par les développeurs d’IA, afin de réduire ces écarts systémiques et d’éviter qu’ils ne se traduisent par un soutien inéquitable aux patients. Notre code est disponible publiquement sur GitHub.