AI企業トップが安全性検証役「内部評価者」を採用

アントロピックのダリオ・アメデオCEOが、最先端AIモデルの公開前に安全性を監査する内部評価者の採用を表明し、業界の注目を集めている。同氏は、評価者が従業員同等のシステムアクセス権限を有し、安全対策の実施状況を検証した上で、企業の編集制限なく調査結果を公表する権利を持つと説明。不利益な結果を隠蔽できない透明性の高い仕組みを構築する考えだ。この提案に対し、OpenAIのサム・アルトマンCEOやイーロン・マスクらが支持を示し、投資家層からも分散型評価ネットワークの重要性が論じられている。 人材面では、独立系非営利団体MetrがAnthropicやGoogle DeepMindの元安全チームメンバーを引き抜き、評価業務の実施体制を整えつつある。スタンフォード大学NLPグループのクリストファー・マニング教授も、大学機関が第三者評価に適していると提案している。 一方、専門家の間では制度の限界と根本的なガバナンス構造への警鐘が鳴らされている。AI検証研究機関のマイレス・ブランダグ最高経営責任者は、評価者が監査対象企業に依存しないよう拘束力のある規制が必要だと指摘。テキサス大学法学院のケヴィン・フレーザー教授は、評価者が企業文化に同化しすぎないよう26ヶ月程度の短期ローテーションを実施し、違法行為や重大な安全違反を外部委員会へ報告する経路を確保するよう提言している。業界全体として、自主的な内部監査の導入を加速させる動きと、独立性と実効性を担保する制度的整備の両輪が求められている。