OpenAI et Anthropic : ralentir le rythme de l'IA

Les dirigeants du secteur de l'intelligence artificielle, notamment Sam Altman d'OpenAI et Dario Amodei d'Anthropic, appellent à un ralentissement volontaire du développement des modèles les plus avancés. Cette initiative répond aux craintes grandissantes concernant la vitesse d'évolution de l'IA, en particulier sa capacité croissante à améliorer ses propres algorithmes, un processus connu sous le nom d'auto-amélioration récursive. Sans encadrement strict, ces systèmes pourraient dépasser la capacité humaine à les comprendre et à les maîtriser. Pour répondre à ce défi sans sacrifier l'avantage commercial ou la compétitivité américaine, Dario Amodei a proposé un plan en trois étapes. Il recommande en premier lieu de permettre à des évaluateurs indépendants d'accéder aux systèmes avec des droits équivalents à ceux des employés internes, une mesure qu'Anthropic a déjà annoncée adopter. Le plan prévoit également l'établissement de normes de sécurité communes entre les laboratoires majeurs et une coordination internationale pour limiter les progrès non régulés. Sam Altman a publiquement soutenu cette démarche. Il a déclaré son accord sur la nécessité de calibrer le rythme des avancées technologiques, confirmant qu'OpenAI mettrait en place des audits indépendants. Il a précisé que cette modulation ne signifiait pas l'arrêt du développement, mais une adaptation visant à aligner la sécurité sur les capacités techniques. Selon lui, aucun enjeu concurrentiel ne doit justifier une course imprudente au détriment du contrôle et de l'alignement des systèmes. Les deux directeurs généraux soulignent que l'industrie doit d'abord agir de manière autonome avant de solliciter l'appui des gouvernements pour harmoniser les réglementations à l'échelle mondiale. Cette prise de position conjointe marque une étape majeure vers une autorégulation du secteur, cherchant à équilibrer innovation rapide et risques liés à l'intelligence artificielle. Elle pourrait inspirer de futures collaborations entre les principaux acteurs technologiques et les autorités publiques pour encadrer le déploiement des systèmes les plus puissants.