Meta a confirmé la mise en place d'un outil de surveillance interne nommé « Initiative de capacités de modèle » (MCI), destiné à entraîner ses intelligences artificielles. Selon des documents internes et des messages vus par CNBC, cet outil permet à l'entreprise de capturer les frappes au clavier et les clics de souris de ses employés sur des centaines de sites web et d'applications, incluant Google, LinkedIn, Wikipédia, ainsi que les plateformes de Microsoft, Salesforce et Atlassian. Initialement, la liste comprenait également des applications concurrentes comme ChatGPT et Claude, mais elle a été modifiée. Ce projet s'inscrit dans l'effort massif de Meta pour rattraper son retard dans le domaine de l'intelligence artificielle générative, où l'entreprise est devancée par OpenAI, Anthropic et Google. Pour accélérer le développement, Mark Zuckerberg a récemment intégré des talents clés comme Alexandr Wang, qui dirige désormais le laboratoire Superintelligence. L'objectif est de créer des agents capables d'effectuer des tâches de bureau et de codage, nécessitant une compréhension précise des interactions humaines avec les interfaces numériques. Un porte-parole de Meta a justifié cette initiative en expliquant que pour former des modèles efficaces, il est indispensable d'avoir des exemples réels de l'usage des ordinateurs, notamment les mouvements de souris et la navigation dans les menus. L'entreprise affirme que des mesures de protection sont en place pour assurer que le contenu sensible ne soit pas appris par l'intelligence artificielle et que les données ne soient utilisées qu'à cette fin. Le responsable du projet a précisé que l'outil ne peut visualiser que ce qui s'affiche à l'écran et ne lit ni les fichiers ni les pièces jointes. Il a ajouté que toute information personnelle accidentelle capturée, comme dans les courriels, serait atténuée par ces mécanismes de sécurité. Cependant, cette surveillance a provoqué une vive inquiétude parmi les employés de Meta. Plusieurs employés ont qualifié le projet de « dystopien » et ont exprimé des craintes concernant la fuite de données sensibles, telles que des mots de passe, des détails sur le développement de nouveaux produits, ou des informations personnelles concernant l'immigration, la santé ou la famille des travailleurs. Dans une note interne destinée à apaiser les craintes, un membre du laboratoire Superintelligence a admis que Meta avait besoin d'un ensemble de données vaste et non biaisé pour enseigner aux modèles comment utiliser les ordinateurs, mais a recommandé aux employés de ne pas effectuer de travail personnel sur leurs ordinateurs de travail pour éviter l'exposition de données privées. La liste des sites surveillés reste toujours en cours de révision.