Les modèles de langage à grande échelle (LLM) sont de plus en plus utilisés non seulement pour produire du contenu, mais aussi pour l’évaluer. Ils sont sollicités pour corriger des dissertations, modérer les publications sur les réseaux sociaux, résumer des rapports, trier des candidatures à des emplois, et bien d’autres tâches similaires. À première vue, ces systèmes semblent impartiaux, capables de juger le fond des textes sans préjugés. Pourtant, une étude récente révèle une nuance cruciale : l’objectivité des LLM s’effondre dès lors que l’identité de l’auteur devient connue. En effet, lorsque les modèles sont confrontés à des textes anonymes, leur évaluation repose principalement sur la qualité du raisonnement, la clarté d’expression, la structure ou la pertinence des arguments. Mais dès qu’ils ont accès à des informations sur l’auteur — comme son nom, son genre, son origine géographique ou son appartenance à un groupe particulier — leurs jugements peuvent être influencés par des biais implicites. Ces biais, souvent intégrés dans les données d’entraînement des modèles, reflètent des stéréotypes sociaux présents dans les textes historiques et numériques utilisés pour former les IA. Par exemple, des recherches ont montré que les mêmes essais, rédigés par des auteurs anonymes, recevaient des notes plus élevées lorsqu’ils étaient attribués à des noms associés à des groupes sociaux favorisés, comme des hommes anglo-saxons, par rapport à des noms associés à des minorités ethniques ou des femmes. Ce phénomène, bien que subtil, a des conséquences concrètes : il peut fausser les décisions dans des contextes sensibles, comme le recrutement, l’admission académique ou la modération de contenus. Ces résultats soulignent un paradoxe fondamental : si les LLM sont conçus pour être neutres, leur performance dépend fortement du contexte dans lequel elles sont utilisées. Le simple fait de connaître l’auteur peut déclencher des biais inconscients, même chez des systèmes qui ne sont pas explicitement programmés pour discriminer. Pour garantir une évaluation équitable, il devient donc essentiel de concevoir des systèmes qui évaluent les textes dans l’ignorance de leur origine. Cela passe par des architectures algorithmiques qui masquent les informations identifiantes, ou par des protocoles de vérification rigoureux qui éliminent tout biais contextuel. Sans ces précautions, même les outils les plus avancés risquent de reproduire et de renforcer les inégalités sociales existantes. En somme, l’objectivité des IA n’est pas une caractéristique intrinsèque, mais un résultat de conception. Pour que les modèles de langage soient véritablement justes, il faut non seulement les améliorer techniquement, mais aussi les surveiller avec vigilance, surtout dans les décisions qui ont un impact réel sur les individus.