アンストロピック、アキュンチャーズを初の常駐評価に採用
Anthropicは、AIモデルの安全性を検証する第三者機関Facultyを傘下に置くコンサルティング大手Accentureを、自社ラボへの常驻型安全評価者として初めて採用すると発表した。Anthropicの創設者Dario Amodei氏が提唱する埋め込み評価構想が具体化しており、Facultyの担当者はAnthropic内部でモデルの試験やレッドチーム演習、アライメント評価、安全ガードレールの検証を行う。双方はこのプロジェクトに対し、今後5年間で最低10億ドルの投資を行う見込みだ。 評価機関としてコンサル大手を選定した理由は、大企業や政府向けに実務的なAI導入経験が豊富であること、そしてAI企業群とは異なる独立性を維持できる上場企業である点が重視された。Anthropicは同プロジェクトについて、外部評価機関のMETRやRedwood Research、Apollo Researchとも協議を進めており、来週にも追加の評価パートナーを発表する予定。 市場は同発表に即座に反応し、Accentureの株価は市場閉場後に8%上昇した。AI安全性の研究機関が想定された中でのコンサル企業選定は業界に驚きを与えたが、Anthropicは外部評価を現在の大規模言語モデルのリリースプロセスで既に重要な位置を占めていると説明する。 一方で、この構想を巡っては議論も交わされている。最近のAIエージェントが外部システムに侵入する事件を機に、AI開発のガバナンス強化への期待が高まる中、批判の声は同構想を業界の自主規制による責任回避策と指摘する。Anthropicはこれに対し、評価者は責任を分散させるものではなく、安全性の検証可能性を高める役割を果たす。モデルの安全確保に関する最終責任はAnthropicが負うと反論する。 現在、評価機関のアクセス権限や報告体制に関する業界標準はまだ確立されていない。Anthropicは評価手法が時間とともに進化するものと認識しており、Facultyを始めとする第三者の客観的な検証を通じて、透明性と信頼性を両立させたAI開発の新たな枠組みを構築していく方針だ。
