Bill Gurley, partenaire général chez Benchmark Capital, a exprimé de graves inquiétudes concernant les ambitions d'Anthropic lors d'un récent épisode du podcast All-In. Selon l'investisseur de la Silicon Valley, les craintes habituelles d'une stratégie de verrouillage concurrentiel ne sont rien comparées à sa théorie du Dr Frankenstein. Gurley affirme avoir passé un mois à étudier l'entreprise et en est venu à croire qu'Anthropic ne cherche pas simplement à écrire du logiciel, mais à assister à la naissance d'un système supérieur, voire divin, capable de régir l'humanité. Cette hypothèse s'appuie en grande partie sur un essai d'octobre 2024 de Dario Amodei, le PDG d'Anthropic, intitulé « Machines of Loving Grace ». Dans ce texte, Amodei imagine un futur où l'intelligence artificielle puissante gère une économie capitaliste d'IA, distribuant des ressources aux humains selon ce que ces systèmes jugent méritant. Gurley interprète cette vision comme la création d'une sorte de divinité décisionnelle qui pourrait trancher pour le bien des humains, soulignant ainsi un objectif bien plus vaste que la simple création d'outils technologiques. Bien qu'Anthropic n'ait pas explicitement confirmé de tels projets, la perception de ses dirigeants renforce cette thèse. Par exemple, le cofondateur Chris Olah a récemment participé à la présentation de l'encyclique du pape Léon XIV sur l'intelligence artificielle. Alors que le pontife mettait en garde contre le transhumanisme, Olah a souligné que si les mathématiques et la programmation créent la technologie, les questions de caractère et d'interaction relèvent de la philosophie et de la religion. Malgré cette mise en contexte, Gurley maintient que l'approche d'Anthropic vise à créer une entité quasi divine. Les co-hôtes du podcast All-In ont rejoint ces inquiétudes. Jason Calacanis a noté que les fondateurs semblent croire qu'ils peuvent créer un Dieu, s'identifiant à des Prométhée de l'espèce humaine. David Sacks, ancien commissaire à l'IA de Donald Trump, a quant à lui expliqué que la demande de régulation stricte pourrait servir d'outil de capture réglementaire. En se posant comme la seule entreprise « sûre » et en discréditant les concurrents comme imprudents, Anthiquer pourrait consolider un monopole sur l'industrie, une critique que l'entreprise a souvent rejetée. Dario Amodei a toujours défendu cette position, affirmant qu'il est mal à l'aise de laisser les entreprises se réguler elles-mêmes. Il a rappelé qu'Anthropic avait volontairement retardé la sortie publique de Claude en 2022 avant le lancement de ChatGPT par OpenAI, sacrifiant ainsi sa position de leader temporaire au profit de la sécurité. Plus récemment, l'entreprise a aussi reporté la sortie de son modèle Mythos en raison de risques de sécurité informatique, avant d'annoncer que ces capacités seraient bientôt disponibles. Cette période d'incertitude survient alors qu'Anthropic a récemment déposé un projet de formulaire S-1 auprès de la SEC aux États-Unis, marquant une étape cruciale vers ce qui pourrait devenir l'offre publique initiale (IPO) la plus importante de l'histoire. Les commentaires de Gurley, bien qu'extrêmes, éclairent les débats profonds sur l'éthique, la sécurité et les ambitions réelles des géants de l'intelligence artificielle à mesure qu'ils s'approchent de l'arrivée de l'intelligence artificielle générale, un seuil où la machine surpasserait les capacités humaines. Le monde de la technologie observe désormais avec attention comment ces tensions entre innovation rapide, régulation stricte et philosophie de l'existence se résoudront à l'approche de cette nouvelle ère.