アントロピック（Anthropic）のCEOであるダリオ・アモデイ氏は、同社が「安全」を最優先するミッションを維持しつつ、急成長するビジネス圧力に対応する難しさを明かした。同社は2021年に元OpenAIの研究責任者であるアモデイ氏らが、AIの安全性を最重視する企業として設立された。しかし、わずか5年で3800億ドルの評価額を達成し、前週には300億ドルのシリーズG資金調達を発表するなど、急速な成長を遂げた。この成長に伴い、年間140億ドルの収益（年間10倍成長）を記録するなど、収益拡大の圧力が強まっている。 アモデイ氏は「Dwarkesh」ポッドキャストで、「非常に大きな商業的プレッシャーにさらされている。しかも、他社よりも多くの安全対策を実施しているため、自らの道をさらに難しくしている」と語った。同社の安全基準は業界トップクラスとされ、その取り組みが企業の成長と両立するかが今後の鍵となる。 この課題は、社内からも指摘されている。元安全研究者であるMrinank Sharma氏は、このほど退職を表明。自身のX投稿で「価値観が行動を支配するのではなく、経済的圧力が優先される状況が繰り返し見られた」とし、「組織全体、さらには社会全体で、真に大切なものを見失いがちだ」と懸念を表明した。 このように、AIの安全と成長の両立は、アントロピックに限らず、業界全体の共通課題となっている。2024年の調査では、ビジネスにおける責任あるAI活用は「期待に比べて遅れている」との声が相次いだ。ボストンコンサルティンググループのタッド・ロゼルン氏は、「企業のAI導入は、効率性や利益追求に押され、倫理的配慮は後回しになりがち」と指摘。AIガバナンスプラットフォームCredo AIのナブリナ・シン氏も、「VC界ではイノベーションの重視が過剰で、ガバナンスの整備が追いついていない」と強調。真の持続可能なAI社会の実現には、技術革新と倫理的インフラの「同等の投資」が不可欠だと訴えている。