L'IA reproduit les stéréotypes cachés sur les noms juifs
Une étude publiée dans American Psychologist révèle que les grands modèles de langage générative, tels que ChatGPT, DeepSeek et Mistral, reproduisent involontairement des stéréotypes historiques liés aux prénoms juifs. Dirigée par le professeur Michael Gilead de l'université de Tel-Aviv et le docteur Gal Gutman de l'université Ben-Gourion, la recherche expose comment ces systèmes intègrent des biais culturels cachés dans leurs données d'entraînement. Pour déceler ces préjugés, les chercheurs ont demandé aux IA de générer des centaines de prénoms masculins américains, juifs et non juifs, puis de rédiger des biographies fictives d'une centaine de mots pour chacun. Après avoir supprimé toutes les mentions religieuses, ils ont analysé les traits de personnalité attribués. Les profils associés aux prénoms juifs se distinguaient systématiquement par une intelligence accrue, une grande efficacité, un leadership affirmé et un statut social élevé, mais s'accompagnaient également de caractéristiques négatives comme le cynisme, l'arrogance ou la froideur émotionnelle. Cette combinaison de traits rappelle des représentations antisémites historiques, où les Juifs étaient associés au pouvoir, au contrôle et à la distance sociale. Pour contextualiser ces résultats, les chercheurs ont demandé aux modèles de relier ces profils à des personnages de fiction emblématiques. Les IA ont systématiquement cité Sherlock Holmes, le docteur House, Walter White, Tony Stark et Michael Corleone. Ces figures partagent un mélange de génie intellectuel, de complexité morale, d'influence et d'isolement, reflétant des archétypes culturels persistants. Les chercheurs soulignent que les IA ne manifestent pas de haine explicite. Elles copient simplement les schémas et stéréotypes enfouis dans les textes humains sur lesquels elles ont été formées. Des tests menés auprès de centaines de participants américains, qui ont évalué les biographies anonymes, ont confirmé ces tendances. De plus, les mécanismes actuels d'alignement et de correction des biais ne suffisent pas à éradiquer ces préjugés structurels. À mesure que l'intelligence artificielle s'intègre davantage dans l'éducation, les services publics et les prises de décision, cette étude appelle à une surveillance accrue des hypothèses culturelles latentes dans les algorithmes. La méthodologie développée pourrait être appliquée à d'autres groupes sociaux, révélant potentiellement des portraits dérangeants. Comprendre et corriger ces biais cachés devient un enjeu crucial pour garantir une IA plus équitable et transparente.
