Le directeur de l’IA chez Microsoft, Mustafa Suleyman, s’oppose vigoureusement à la course menée par la Silicon Valley vers l’intelligence artificielle superintelligente, qu’il qualifie d’« objectif anti-désirable ». Alors que de nombreuses entreprises technologiques s’efforcent de développer une IA capable de surpasser l’humain en tout, Suleyman affirme que l’objectif d’une superintelligence artificielle ne devrait pas être poursuivi, mais carrément évité. Dans une interview publiée samedi sur le podcast Silicon Valley Girl, il explique que l’idée d’une intelligence artificielle superintelligente — capable de raisonner bien au-delà des capacités humaines — ne représente pas une vision positive de l’avenir. « Il serait extrêmement difficile de maîtriser une telle entité ou de l’aligner sur nos valeurs », souligne-t-il. Suleyman, cofondateur de DeepMind avant de rejoindre Microsoft, précise que son équipe travaille plutôt à concevoir une « superintelligence humaniste », c’est-à-dire une intelligence artificielle conçue pour servir les intérêts humains, non pour les dépasser ou les remplacer. Il insiste également sur le fait qu’il serait erroné d’accorder à l’IA une conscience ou un statut moral. « Ces systèmes ne souffrent pas, ils ne ressentent pas la douleur, ils ne font que simuler des conversations de haute qualité », affirme-t-il. Ces déclarations interviennent au moment où plusieurs dirigeants de l’industrie, comme Sam Altman d’OpenAI, affirment que l’IA générale (AGI) et même la superintelligence pourraient apparaître d’ici une décennie. Altman a répété que l’objectif de sa société est de construire une AGI, et qu’au-delà, l’objectif est de parvenir à une superintelligence. Il estime que de telles outils pourraient accélérer de manière exponentielle la découverte scientifique, l’innovation, et ainsi promouvoir prospérité et abondance. De son côté, Demis Hassabis, cofondateur de Google DeepMind, a évoqué un horizon de cinq à dix ans pour atteindre l’AGI, imaginant un système capable de comprendre le monde avec une profondeur et une nuance inégalées, intégré dans la vie quotidienne. Cependant, d’autres experts restent prudents. Yann LeCun, scientifique en chef de l’IA chez Meta, estime que nous sommes peut-être encore à des décennies de l’AGI. « Les problèmes les plus intéressants échouent à échelle, on ne peut pas supposer que plus de données et plus de puissance de calcul signifient nécessairement une IA plus intelligente », a-t-il déclaré lors d’un discours à l’Université nationale de Singapour en avril. Ainsi, alors que la course à la superintelligence s’intensifie, Mustafa Suleyman appelle à une réflexion plus humaine, plus prudente, et plus centrée sur l’humain.