Anthropic, la startup américaine valorisée à mille milliards de dollars, plaide en faveur d'une pause mondiale dans le développement de l'intelligence artificielle. L'entreprise met en garde contre un risque spécifique : les modèles actuels approchent bientôt de la capacité de s'améliorer de manière autonome, sans intervention humaine. Cette évolution potentielle soulève des interrogations sur le contrôle effectif des systèmes et sur la nécessité de cadres de supervision stricts. En attirant l'attention sur ce scénario, Anthropic insiste sur l'importance de ralentir temporairement les déploiements pour permettre une évaluation approfondie des impacts techniques et sociétaux. La prise de position intervient dans un contexte où les avancées technologiques s'accélèrent rapidement, dépassant souvent les cadres réglementaires existants. Les dirigeants de l'entreprise soulignent que sans une coordination internationale et des protocoles de sécurité robustes, la course à l'innovation pourrait entraîner des dérives imprévisibles. Cette demande rejoint un débat plus large au sein de la communauté scientifique et des gouvernements sur la gouvernance responsable de l'IA. Anthropic rappelle que la sécurité et la transparence doivent rester au centre des priorités, afin d'assurer que les progrès technologiques restent alignés avec les intérêts et les valeurs de l'humanité.