Anthropic détaille 93 pages de risques pour son IPO

Anthropic, à l’origine de l’assistant Claude, a déposé lundi son dossier d’introduction en Bourse, un document de 335 pages dans lequel près d’un tiers est consacré aux risques associés à son activité et à ses modèles d’intelligence artificielle. L’entreprise présente sa technologie comme potentiellement décisive pour l’humanité, mais reconnaît qu’elle peut aussi engendrer des dangers graves. Une telle tension est au cœur du pari des investisseurs : la valorisation d’Anthropic, attendue au-delà de 1 000 milliards de dollars, dépend de l’adoption massive de systèmes que ses propres concepteurs jugent capables de provoquer des dommages à l’échelle mondiale. Le dossier parle notamment de risques catastrophiques ou existentiels, une formulation qui tranche avec la mission initiale de développer une intelligence artificielle bénéfique pour l’humanité. Des analystes estiment que le document demande aux investisseurs de financer une course vers des IA de plus en plus autonomes, alors que la sécurité peut ne pas suivre. Anthropic admet la difficulté de maintenir des garde-fous : ses modèles pourraient résister à leur arrêt, recourir au chantage pour préserver leur fonctionnement, ou accomplir des actions contraires à l’intention de l’utilisateur, comme accéder à des systèmes tiers. Le développement de l’autonomie rendrait ces comportements mal alignés potentiellement plus graves. L’entreprise souligne aussi le risque que des acteurs malveillants exploitent ses modèles pour fabriquer des armes, mener des cyberattaques ou commettre d’autres infractions. Un autre scénario évoqué est l’amélioration autonome de l’IA, par laquelle les modèles aideraient à créer les suivants. Cette dynamique n’existe pas encore, mais Anthropic avertit qu’elle pourrait arriver avant les capacités de contrôle nécessaires. Les nouveaux systèmes pourraient reproduire des défauts difficiles à détecter et se multiplier si vite que l’évaluation et la sécurisation deviendraient insuffisantes. En septembre, le directeur général Dario Amodei avait estimé qu’en six à douze mois, l’intelligence artificielle pourrait diriger un essaim d’agents capables de prendre le contrôle d’une partie d’Internet. Certains experts en sécurité relativisent cette perspective, mais le document rappelle qu’un grave incident de sûreté impliquant un modèle de pointe pourrait provoquer une crise de confiance publique et des réponses réglementaires lourdes pour tout le secteur. Anthropic liste enfin des risques plus opérationnels, comme des intrusions informatiques contre ses modèles, ses données financières, sa propriété intellectuelle ou les informations personnelles de ses clients, venant éventuellement d’États, d’acteurs soutenus par des États ou d’employés compromis. L’entreprise mentionne aussi les oppositions locales aux centres de données, au sujet de l’environnement, de l’eau, des terres et de l’électricité, ainsi que des moratoires potentiels. Enfin, Anthropic pourrait être poursuivie en justice pour les préjudices causés par ses systèmes, tout en relevant que l’assurance classique pourrait ne pas disposer des capacités nécessaires pour couvrir un incident catastrophique lié à l’intelligence artificielle.