Les labos IA approchent de l'auto-amélioration autonome
La possibilité pour les modèles d'intelligence artificielle de s'améliorer de manière autonome, un processus appelé amélioration récursive, est désormais considérée comme proche par plusieurs laboratoires de premier plan. Ce concept désigne la capacité d'un système à concevoir ses propres versions successives, accélérant ainsi sa progression bien au-delà du rythme humain. Si cette évolution pourrait accélérer les découvertes scientifiques et médicales, elle suscite également d'importantes inquiétudes quant au contrôle humain et aux risques liés à l'émergence d'une superintelligence incontrôlée. Les avancées concrètes se multiplient. Chez Anthropic, le modèle Claude prend désormais en charge 26 % des recherches et développements internes, traitant la majorité des tâches de bout en bout sous supervision humaine. OpenAI a quant à lui présenté un stagiaire de recherche automatisé, capable d'exécuter des missions complexes en quelques jours, avec pour objectif un chercheur IA autonome d'ici mars 2028. Du côté de xAI, Elon Musk indique que les modèles Grok sont de moins en moins supervisés par les humains, visent une automatisation complète d'ici la fin de 2025 ou, au plus tard, 2027. Microsoft adopte une approche plus prudente : son dirigeant Mustafa Suleyman prône une superintelligence humaniste, strictement encadrée et au service des besoins humains, loin d'une autonomie illimitée. La notion d'amélioration récursive reste pourtant floue. Certains experts y incluent toute forme de rétroaction algorithmique, tandis que d'autres la définissent comme un processus entièrement autonome. John Thickstun, de l'université Cornell, souligne que les modèles assistent déjà les chercheurs depuis des années, mais que les progrès récents rapprochent véritablement l'industrie de sauts majeurs. Cette accélération, bien que techniquement prometteuse, alimente des débats sur la sécurité. La vitesse accrue des itérations automatiques complique effectivement le contrôle et l'alignement éthique des systèmes. Face à ces enjeux, le secteur est divisé sur la nécessité d'un ralentissement coordonné. Anthropic et plusieurs voix de la communauté scientifique appellent à un rythme maîtrisé, Anthropic se disant prête à suspendre temporairement ses développements si ses concurrents suivent le mouvement. OpenAI reconnaît n'avoir encore trouvé de moyen garanti pour atteindre une amélioration récursive parfaitement alignée, tout en reconnaissant le potentiel d'un chercheur IA automatisé pour renforcer la sécurité. Le défi technique et éthique demeure donc central : comment bénéficier de l'efficacité de l'IA autonome tout en préservant une supervision humaine rigoureuse et des garde-fous démocratiques.
