Amodei : Anthropic doit rester au sommet pour une IA sûre

Le PDG d'Anthropic, Dario Amodei, a défendu publiquement la stratégie de son entreprise après les critiques d'un expert en sécurité de l'IA. Dans une réponse publiée mardi sur X, il a rejeté l'accusation selon laquelle Anthropic privilégierait la course à la superintelligence au détriment de la sûreté. Son contradicteur, Nathan Calvin, directeur stratégie de l'ONG Encode AI, lui reprochait notamment d'avoir signé des engagements massifs en ressources informatiques et de s'appuyer davantage sur Claude pour développer ses propres modèles. Amodei a affirmé qu'Anthropic servait mieux la sécurité de l'IA en restant au premier plan de l'innovation. Selon lui, cette course à l'excellence permet de montrer qu'il est possible de développer l'IA de façon responsable et d'élever les normes du secteur. Il a cité des décisions coûteuses sur le plan commercial mais bénéfiques pour la sécurité, comme la diffusion restreinte du modèle Mythos à des partenaires choisis dans la cybersécurité et les limitations imposées aux ventes à certaines entreprises contrôlées par l'État chinois. Le dirigeant a toutefois reconnu que certains points pouvaient être mieux gérés, notamment un projet de loi transmis au Congrès américain, jugé par ses critiques comme susceptible de rendre plus difficile le blocage fédéral de modèles dangereux. Il a redit sa fierté du bilan de l'entreprise tout en promettant des progrès. Cet échange intervient alors que la sûreté des modèles d'IA est devenue un sujet central. Plusieurs dirigeants, dont Sam Altman d'OpenAI et Elon Musk, à la tête d'xAI, ont récemment exprimé leur soutien à un ralentissement du développement des modèles les plus avancés pour renforcer les garde-fous. Dans le même temps, Anthropic prépare une entrée en Bourse très attendue, avec une valorisation estimée à 2 000 milliards de dollars, et a fait état d'un chiffre d'affaires de 16,8 milliards de dollars au troisième trimestre.