Une étude menée par des chercheurs de l'université Flinders a révélé que les derniers modèles d'intelligence artificielle à raisonnement avancé, o3-mini et DeepSeek-R1, perpétuent des stéréotypes raciaux et genrés dans le contexte médical. Malgré des capacités de raisonnement améliorées et des scores benchmarks supérieurs, ces systèmes ne garantissent pas une meilleure équité représentative. L'équipe, dirigée par le professeur Michael Sorich et le chercheur Joshua Docking, a demandé aux deux modèles de générer trente-six mille descriptions de patients fictifs souffrant de pathologies courantes. Les résultats, publiés dans le Journal of Medical Internet Research, montrent que les deux réseaux déforment régulièrement la répartition démographique réelle des maladies. Pour la race, les taux de représentation erronée atteignent 78 pour cent pour o3-mini et 89 pour cent pour DeepSeek-R1. Les écarts genrés s'établissent respectivement à 56 pour cent et 67 pour cent. Ces chiffres dépassent ou égalent les biais déjà observés avec le précédent GPT-4, qui présentait une erreur médiane de 15 pour cent contre 44 et 31 pour cent pour les nouveaux modèles. L'analyse qualitative a mis en lumière un mécanisme spécifique : au lieu de s'appuyer sur des données épidémiologiques objectives, les IA invoquent systématiquement des associations démographiques et pathologiques apprises dans leurs données d'entraînement. Elles surexposent ainsi les populations noires à des affections comme le lupus, la prééclampsie ou l'hypertension essentielle, tout en favorisant des schémas genrés traditionnels. Selon les auteurs, cette persistance des stéréotypes constitue un risque clinique concret. Si de tels outils sont intégrés aux flux de travail médicaux sans supervision, ils pourraient renforcer des préjugés diagnostiques et exacerber les disparités de santé. Les chercheurs soulignent que le progrès technique en matière de raisonnement algorithmique ne s'accompagne pas automatiquement d'une amélioration de l'équité ou de la représentation. L'adoption de ces technologies dans le secteur de la santé nécessite une vigilance accrue. Une évaluation continue des biais et une formation des professionnels sur ces limites sont essentielles avant tout déploiement clinique. La communauté scientifique appelle à développer des garde-fous rigoureux pour garantir que l'efficacité computationnelle ne se fasse pas au détriment de la justice démographique et de la qualité des soins.