L'IA pourrait uniformiser nos choix, selon une étude

Une nouvelle recherche universitaire met en garde contre un risque caché de l'intelligence artificielle : l'homogénéisation des choix humains et l'appauvrissement de la diversité culturelle. Selon l'étude menée par Sandra Matz, professeure à la Columbia Business School, les modèles de langage de grande taille, qui alimentent la majorité des applications IA actuelles, ont tendance à orienter les utilisateurs vers des décisions standardisées. En analysant plus de 110 000 décisions réelles prises par 1 000 personnes, ainsi que des données issues du projet Facebook myPersonality, les chercheurs ont comparé ces choix à ceux générés par des agents IA génériques ou personnalisés. Les résultats montrent que ces systèmes privilégient systématiquement les options les plus probables et les plus courantes. Par nature, un modèle de langage prédit le terme ou l'action le plus susceptible de suivre dans une séquence, ce qui le pousse naturellement vers une moyenne statistique plutôt que vers l'originalité. Cette logique algorithmique a des conséquences concrètes sur le comportement des individus. Que ce soit pour choisir un lieu de vacances, un vêtement ou simplement un repas, l'intelligence artificielle réduit l'espace d'exploration psychologique et favorise les parcours sécurisés. Même lorsqu'un utilisateur a déjà démontré une tendance à prendre des décisions atypiques, le système le ramène vers des choix normatifs. Comme le souligne la chercheure, les algorithmes sont entraînés à éviter le risque. Leur objectif principal étant de retenir l'utilisateur sur la plateforme, ils lui proposent continuellement ce qu'il aime déjà, écartant progressivement les recommandations marginales ou surprenantes. Si cette uniformisation peut sembler anodine à l'échelle individuelle, elle menace à plus grande échelle la richesse de l'expérience humaine et pourrait conduire à une standardisation culturelle. Pour contrer cette tendance, l'auteure recommande aux développeurs de concevoir des options dédiées, comme un mode exploration. Cette fonctionnalité permettrait aux utilisateurs de solliciter activement des recommandations moins conventionnelles, préservant ainsi leur capacité à découvrir de nouveaux horizons et à maintenir la diversité de leurs préférences. Cette recherche souligne la nécessité de repenser l'architecture des assistants numériques. Alors que l'IA promet d'augmenter les capacités cognitives et d'accélérer les avancées scientifiques, son adoption massive sans garde-fous appropriés risque de transformer notre façon de décider en un processus routinier. L'équilibre entre personnalisation algorithmique et liberté de choix individuel demeure un défi majeur pour les concepteurs de demain.