Dario Amodei, fondateur et PDG d’Anthropic, reconnaît que son entreprise peine à concilier les exigences commerciales croissantes avec son engagement fondamental en faveur de la sécurité de l’intelligence artificielle. Bien que fondée en 2021 par des anciens collaborateurs d’OpenAI soucieux de préserver une mission centrée sur la sécurité, Anthropic, aujourd’hui l’une des entreprises privées les plus valorisées au monde avec une estimation de 380 milliards de dollars après sa levée de 30 milliards de dollars en série G, fait face à une pression économique sans précédent. « Nous sommes soumis à une pression commerciale incroyable, et nous nous mettons encore plus de difficultés en ajoutant tout ce travail de sécurité que nous faisons », a déclaré Dario Amodei dans un épisode récent du podcast Dwarkesh. Cette pression s’explique par la croissance fulgurante de l’entreprise : en moins de trois ans, Anthropic a généré sa première recette, et son chiffre d’affaires annuel en cours (run-rate) atteint désormais 14 milliards de dollars, en progression de plus de 10 fois par an depuis sa création. Cependant, cette expansion rapide soulève des tensions internes. Mrinank Sharma, ancien chercheur en sécurité chez Anthropic, a démissionné récemment, affirmant dans une lettre publiée sur X (anciennement Twitter) que les valeurs de l’entreprise étaient constamment compromises par les pressions liées à la croissance. « J’ai vu à plusieurs reprises à quel point il est difficile de laisser vraiment nos valeurs guider nos actions », a-t-il écrit, soulignant que cette tension existait aussi au niveau personnel et organisationnel. Ce dilemme n’est pas propre à Anthropic. Dans l’ensemble de l’écosystème technologique, l’innovation en intelligence artificielle progresse souvent plus vite que les cadres éthiques et les mécanismes de gouvernance. Tad Roselund, directeur général chez Boston Consulting Group, a estimé en 2024 que l’intégration responsable de l’IA dans les entreprises avançait « bien trop lentement ». De même, Navrina Singh, fondatrice de Credo AI, un acteur du contrôle éthique de l’IA, a pointé du doigt un déséquilibre dans le financement : « L’environnement de capital-risque privilégie fortement l’innovation en IA au détriment de sa gouvernance. » Pour que l’IA soit adoptée à grande échelle de manière durable et responsable, il est essentiel de doter les entreprises de cadres éthiques solides, d’infrastructures robustes et d’outils concrets, selon Navrina Singh. Sans cela, même les entreprises les plus engagées dans la sécurité risquent de voir leurs principes s’effriter face à la pression du marché. Anthropic, malgré ses efforts, incarne désormais le défi majeur de l’industrie : comment maintenir une mission de sécurité en pleine croissance, sans sacrifier son avenir économique ?