22 experts : l'IA réduirait un an de R&D à cinq semaines
Une équipe de vingt-deux experts en intelligence artificielle, dont les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio, publie aujourd’hui un rapport soulignant le risque majeur d’explosion de l’intelligence. Selon cette étude commandée par le Cambridge Programme on AI Science & Policy, l’automatisation croissante de la recherche et du développement par les IA pourrait déclencher un cycle de rétroaction vertigineux. Au lieu de prendre des années, les avancées majeures en IA pourraient être réalisées en quelques semaines. Le constat s’appuie sur des évolutions récentes observées au sein des principaux laboratoires mondiaux. Chez Anthropic, plus de quatre-vingts pour cent du code intégré au système provient désormais de l’IA Claude, qui supervise également plus d’un quart des tâches de R&D avec un contrôle humain minimal. OpenAI signale une multiplication similaire des agents autonomes, permettant à la recherche de s’étirer virtuellement sans augmentation linéaire du personnel. Ce changement de paradigme transforme le développement d’IA en un processus largement logiciel, où les corrections et les expériences peuvent être testées et déployées en quelques minutes, contournant les limites physiques traditionnelles. Les auteurs introduisent le concept de rendements aux efforts de recherche pour modéliser cette dynamique. Les données historiques suggèrent un ratio compris entre 1,2 et 1,9, indiquant que chaque investissement supplémentaire en capacité de calcul et en automatisation génère un progrès disproportionné. Dans un scénario où l’automatisation atteint un niveau expert sans rencontrer de goulets d’étranglement en matière de puissance de calcul ou de données, l’accélération pourrait multiplier la vitesse de développement par dix en dix-huit mois. Un rythme qui transformerait un an de progrès technique en environ cinq semaines. Cette accélération exponentielle soulève trois risques structurels majeurs. En premier lieu, la vitesse d’évolution technologique pourrait dépasser les capacités d’adaptation des sociétés, des régulateurs et des infrastructures de sécurité. Les menaces, qu’elles soient cybernétiques ou biologiques, pourraient émerger avant que les défenses ne soient opérationnelles. Ensuite, la délégation croissante des décisions de conception aux systèmes autonomes risque de réduire la visibilité humaine et d’accumuler des biais ou des déviations non détectées. Enfin, une course aux capacités démultipliée par l’automatisation pourrait concentrer excessivement le pouvoir entre les mains de quelques entreprises ou nations premières. Face à ces perspectives, les chercheurs ne prônent pas un arrêt immédiat, mais un cadre de gouvernance proactive. Ils appellent à la mise en place de mécanismes transparents de surveillance et d’audit indépendant pour mesurer le taux d’automatisation des laboratoires. Cette approche vise à remplacer les appels volontaires à la modération, récemment formulés par plusieurs dirigeants du secteur et académiciens, par des indicateurs vérifiables. Sans transparence sur le rythme réel de l’innovation, la régulation restera constamment en retard, laissant la société vulnérable aux conséquences imprévues d’une intelligence capable de se concevoir elle-même à une vitesse sans précédent.
