Google DeepMind lance un fonds de recherche de 10 millions de dollars pour étudier les risques liés à l'interaction à grande échelle des intelligences artificielles autonomes. Avec le déploiement massif d'agents IA capables de travailler sans supervision humaine et d'obéir aux instructions d'autres programmes, des chercheurs et entreprises du secteur s'inquiètent de l'émergence de menaces inédites sur l'espace numérique mondial. Rohin Shah, responsable de la sécurité et de l'alignement de l'AGI chez Google DeepMind, précise que ce fonds, cofinancé par Schmidt Sciences, ARIA, la Cooperative AI Foundation et Google.org, vise à impulser la recherche académique et indépendante sur ce sujet encore balbutiant. L'objectif est de faire naître un champ disciplinaire complet, baptisé sécurité multi-agents, avant le déploiement industriel à grande échelle. Shah estime que le seuil critique pourrait être atteint dans les mois à venir et souhaite que les équipes de préparation soient opérationnelles à temps. Les risques identifiés sont des versions amplifiées des menaces actuelles du web : fraudes complexes, injections de commandes malveillantes, cyberattaques coordonnées et perturbations économiques potentielles. Selon James Fox de Schmidt Sciences, se fier aux simulations actuelles ou étudier les agents individuellement est insuffisant. La véritable complexité émerge lorsque des millions d'entités numériques interagissent simultanément. Pour anticiper ces scénarios, les chercheurs privilégieront des environnements de test réalistes et des simulations à grande échelle, considérant que des agents basés sur des modèles de langage ne suivront pas toujours une logique rationnelle. Cette initiative s'inscrit dans une tendance plus large du secteur technologique. Anthropic a récemment publié des lignes directrices privilégiant le principe de zéro confiance pour le déploiement des agents, postulant dès le départ que chaque système peut être compromis. Refael Angel, CTO de la société de cybersécurité israélienne Akeyless, souligne que les agents IA bouleversent les paradigmes de sécurité traditionnels. Contrairement aux logiciels classiques aux comportements prévisibles, ces programmes peuvent raisonner, improviser et être détournés par de simples instructions textuelles. Les partenaires de ce fonds s'accordent sur la nécessité de ne pas laisser une seule entreprise définir les standards de sécurité. La recherche devrait combiner prévention proactive et tests rigoureux pour éviter que l'espace numérique commun ne se transforme en environnement incontrôlé. En investissant dans des études prospectives et des outils de simulation, Google DeepMind et ses partenaires comptent outiller la communauté scientifique face à une évolution technologique dont la vitesse dépasse les anticipations habituelles.