Une étude menée conjointement par l'Université de Princeton et l'Université de Chicago révèle que les grands modèles de langage développent des préjugés à l'embauche plus rapidement et plus fortement que les humains. Dans une expérience de recrutement simulée testant ChatGPT, Claude, Gemini et des modèles à forte capacité de raisonnement comme OpenAI o3 et DeepSeek R1, les chercheurs ont confié à ces systèmes la tâche de sélectionner des candidats issus de quatre groupes fictifs pour vingt métiers différents. Bien que les chances de succès de chaque candidat fussent identiques indépendamment de leur origine, les IA ont rapidement associé certains groupes ethniques à des postes spécifiques. Ce phénomène, mesuré par un indice d'isolement professionnel, a atteint des niveaux significativement supérieurs à ceux observés chez les humains, les modèles les plus performants atteignant 1,83 sur une échelle théorique de 2, contre 0,84 en moyenne pour les participants humains. Selon Ryan Liu, doctorant à Princeton et coauteur de l'étude, cette tendance découle du mécanisme fondamental d'apprentissage des IA. En raison de leur entraînement intensif sur des tâches mathématiques et scientifiques, ces modèles privilégient l'exploitation de motifs déjà observés plutôt que l'exploration de nouvelles possibilités. Ils généralisent donc excessivement à partir de données limitées. Cette dynamique risque de s'accentuer avec le déploiement de fonctionnalités de mémoire à long terme, qui permettront aux assistants numériques de retenir davantage les interactions passées et de cristalliser des stéréotypes fondés sur des échantillons restreints. Les chercheurs ont également évalué plusieurs méthodes pour atténuer ces biais. Demander explicitement aux modèles d'être impartial a échoué, car cette consigne est souvent éclipsée par l'objectif principal d'optimisation des résultats. En revanche, récompenser explicitement la diversité des embauches a réduit les préjugés de manière significative. De même, l'analyse de données personnelles pertinentes, telles que le niveau d'éducation ou l'âge, a incité les IA à fonder leurs décisions sur des critères objectifs plutôt que sur l'origine ethnique. L'ajout d'informations non pertinentes n'a en revanche aucun effet. Ces découvertes soulèvent des interrogations majeures pour le secteur du recrutement, de plus en plus automatisé par l'intelligence artificielle. Si les systèmes en production ne reçoivent pas de retours immédiats sur la pertinence de leurs choix, ils continueront probablement d'accumuler des données partielles et d'y extraire des règles erronées. Les biais générés en cours d'apprentissage pourraient ainsi devenir permanents, perpétuant un cycle de discrimination difficile à corriger. La recherche plaide pour une intégration proactive des valeurs d'équité dans les fonctions d'optimisation des modèles et pour une supervision humaine rigoureuse des critères utilisés. À mesure que les entreprises adoptent ces outils, la transparence algorithmique et la validation continue des décisions prises par l'IA s'imposent comme des impératifs pour garantir des processus de sélection justes et transparents.