Scott Aaronson : la singularité IA est là, risque majeur

Scott Aaronson, théoricien de l'informatique de renommée mondiale et ancien chercheur chez OpenAI, a récemment publié un billet dans lequel il déclare que la singularité de l'intelligence artificielle est désormais une réalité. Autrefois sceptique face à ce concept, il a clairement mis à jour sa position, affirmant que l'humanité est actuellement exposée à des risques significatifs. La singularité désigne un scénario où l'IA dépasse l'intelligence humaine et acquiert la capacité de s'améliorer de manière récursive, accélérant ainsi son propre développement. Dans son texte, Aaronson reconnaît avoir partagé, il y a deux décennies, le scepticisme dominant au sein de la communauté informatique, qui considérait l'IA auto-amélioratrice comme un domaine de la fiction scientifique. Face à l'accélération actuelle des modèles, il estime que les débats idéologiques et les polarisations autour des dirigeants du secteur doivent laisser place à une reconnaissance factuelle : les avancées et les menaces associées à l'IA sont désormais tangibles. Cette évolution a des conséquences concrètes sur son domaine de prédilection. Selon Aaronson, les humains chargés de la démonstration formelle de théorèmes voient leur rôle fondamental devenir obsolète. Il précise qu'à l'avenir, ses propres travaux ne viseront plus la nécessité professionnelle, mais uniquement l'intérêt personnel ou éducatif. La dernière barrière, selon lui, ne réside plus dans la puissance de calcul ou le raisonnement logique, mais dans la capacité de l'IA à interagir avec le monde physique. Cette prise de position intervient au cœur d'un débat intense au sein de l'industrie technologique, entre partisans d'un boom technologique prometteur et ceux qui craignent un scénario catastrophique. En déclarant publiquement que l'ère transformative de l'IA est lancée, Aaronson contribue à la réflexion collective sur la gouvernance et les défis éthiques que posent ces systèmes. Son changement de paradigme, porté par une figure respectée en informatique théorique, marque un tournant symbolique dans la manière dont les experts perçoivent les capacités actuelles et futures de l'intelligence artificielle.