Brown cartographie le travail caché de l'IA

Une étudiante de Brown University, Cunyan Ma, a développé une carte interactive pour rendre visible le travail humain souvent invisible qui soutient les systèmes d’intelligence artificielle. Le projet, mené avec le Center for Technological Responsibility, Reimagination and Redesign de l’université, vise à montrer que derrière les algorithmes se trouvent des travailleurs, majoritairement situés dans le Sud global, chargés de tâches répétitives ou éprouvantes pour alimenter, corriger et sécuriser les modèles automatiques. La carte relie des entreprises technologiques ou commerciales à des intermédiaires spécialisés dans la labellisation de données, puis aux lieux où travaillent réellement les employés. Elle agrège des bases de données existantes, des informations collectées par Cunyan Ma et des reportages sur les conditions de travail. Dans sa version actuelle, elle met en relation treize sociétés de traitement de données, cent quarante et une entreprises clientes et trente et un pays où se trouvent des sites de travail. L’outil n’est pas complet, mais il offre une première vision structurelle de la chaîne qui alimente l’intelligence artificielle. Au cœur du projet se trouve l’idée de « colonialisme numérique ». Pour qu’un système apprenne à reconnaître des objets, traduire du texte, modérer des contenus ou éviter de produire des réponses nuisibles, des humains doivent annoter des images, évaluer des réponses de chatbots, transcrire des conversations ou identifier des contenus dangereux. Une partie de ce travail expose des employés à des images violentes, des contenus illégaux ou des textes dégradants, afin de créer des garde-fous dans les systèmes. Selon Cunyan Ma, une grande partie de cette activité est volontairement peu visible. Les entreprises externalisent souvent ces tâches vers des sous-traitants situés au Kenya, en Indonésie, en Colombie ou dans d’autres pays offrant une main-d’œuvre moins coûteuse. La carte cherche donc à exposer une asymétrie économique: le travail difficile est délocalisé vers des pays à revenus plus modestes, tandis que les bénéfices et l’image publique de l’intelligence artificielle restent concentrés ailleurs. Pour Suresh Venkatasubramanian, professeur d’informatique à Brown et conseiller du projet, cette approche rappelle que l’intelligence artificielle n’est pas une entité vivante ou autonome. Elle est le produit d’un effort humain collectif, fait d’annotations, de corrections et de jugements quotidiens. À ses yeux, parler des IA comme de systèmes presque conscients revient à masquer les personnes qui les ont réellement construites. La carte est présentée comme un outil pédagogique et civique. Elle peut aider le public à comprendre les dimensions économiques et politiques des technologies automatiques, mais aussi permettre, à terme, à des travailleurs dispersés de mieux identifier leurs conditions communes de travail. Cunyan Ma espère ensuite étendre la méthode à d’autres secteurs, notamment l’industrie des semi-conducteurs, afin de cartographier l’ensemble des chaînes matérielles et humaines qui sous-tendent le numérique moderne.