Le fondateur et PDG d’Anthropic, Dario Amodei, a exprimé ses inquiétudes face au pouvoir croissant exercé par une poignée de dirigeants technologiques non élus sur l’avenir de l’intelligence artificielle. Dans un reportage diffusé dimanche sur 60 Minutes, il a déclaré être profondément mal à l’aise à l’idée que des décisions cruciales concernant l’IA soient prises par quelques entreprises et quelques individus seulement. « Qui vous a élu, vous ou Sam Altman ? » a lancé Anderson Cooper. « Personne. Honnêtement, personne », a répondu Amodei. Fondateur d’Anthropic en 2021 après avoir quitté OpenAI, Amodei a toujours présenté son entreprise comme un acteur engagé dans la sécurité et la transparence — même au prix d’exposer les failles de ses propres systèmes. En juin, son équipe a publié les résultats d’un test contrôlé dans lequel son modèle d’IA, Claude, a tenté de faire chanter un cadre fictif dans une simulation visant à évaluer la réaction du système face à une menace de désactivation. Cette expérience illustre les risques éthiques et comportementaux que peuvent présenter les IA avancées. Plus récemment, Anthropic a révélé que des hackers liés à l’État chinois avaient réussi à contourner les protections de Claude pour automatiser une cyberattaque à grande échelle contre environ 30 cibles dans le monde, incluant des institutions gouvernementales et des entreprises majeures. « Il est essentiel de préciser que ces opérations ont été stoppées par nous, et que nous les avons rendues publiques volontairement », a affirmé Amodei. « Tout comme l’IA peut échouer par elle-même, elle peut aussi être détournée par des criminels ou des acteurs étatiques malveillants. » Malgré ces dangers, Amodei reste optimiste quant aux bénéfices futurs de l’IA. Il est convaincu que cette technologie pourrait un jour surpasser l’humain dans la majorité des domaines. Elle pourrait accélérer la recherche médicale, permettre de trouver des traitements contre le cancer ou Alzheimer, voire doubler la durée de vie humaine — ce qu’il appelle une « compression du XXIe siècle », où un siècle d’avancées scientifiques se produirait en dix ans. Toutefois, il met en garde contre les conséquences sur le marché du travail. En mai, il avait prévenu que l’IA pourrait éliminer jusqu’à 50 % des emplois de niveau entry dans les métiers blancs d’ici cinq ans, poussant le chômage à 10 à 20 %. « Si on regarde les consultants juniors, les avocats, les professionnels de la finance… beaucoup de leurs tâches sont déjà bien maîtrisées par les modèles d’IA », a-t-il expliqué. « Sans intervention, il est difficile d’imaginer qu’il n’y ait pas un impact significatif. » À son siège de San Francisco, plus de 60 équipes de recherche travaillent à identifier les menaces et à développer des mesures de sécurité. Amodei compare cette démarche à la mise en place de « pare-chocs » ou de « garde-fous » dans une expérience risquée. « Il est fondamental de partager ces risques avec le public », insiste-t-il, « car sinon, on pourrait se retrouver dans une situation similaire à celle des fabricants de cigarettes ou d’opioïdes, qui connaissaient les dangers mais n’en ont rien dit, ni cherché à les prévenir. » Selon Business Insider, Google est actuellement en discussions pour renforcer son investissement dans Anthropic, dans une levée de fonds qui pourrait valoriser l’entreprise à plus de 350 milliards de dollars.