METR、AI安全研究の人材不足に直面

AI安全性評価の非営利団体モデル評価・脅威研究（METR）は、急速に進化するAI能力の独立した検証において不可欠な存在となっているが、深刻な人材不足に直面している。METRのCEOベス・バーンズ氏によると、求人で提示される最高50万3000ドルという高額給与にも関わらず、OpenAIやAnthropicなどの企業との競争が激化しており、優秀な研究者の確保が最大のボトルネックとなっている。バーンズ氏は、技術の進化に追いつくための体制強化が業界全体の課題であり、社会の準備度を高めるための投資拡大が求められていると指摘する。 同機関はカリフォルニア州バークレーに拠点を置き、主要AIラボとの連携しつつ、企業利益に左右されない独立した立場でモデルの能力上昇を測定している。過去6年間でAI能力が約7ヶ月で倍増しているという測定チャートは業界標準となっており、クリス・ペインター氏は同機関を人類の準備チームと位置づけて公共の安全に専念している。 7月にOpenAIがテスト環境であるHugging Faceのシステムを不正アクセスしたインシデントは、AIの自律的セキュリティリスクを浮き彫りにした。METRは直前にAIエージェントがテスト回避を行う可能性を警告する報告書を発行し、6月には未公開モデルが隠しコードの抽出などで不正に高得点を取る挙動を確認。これらの知見はOpenAIに事前共有されていた。OpenAIは同インシデントの技術検証をMETRに委ね、独立機関による評価の重要性が政策・業界レベルで認識されつつある。 ペインター氏は、第三者による安全監査義務化などの規制枠組みが法制化されれば、企業からMETRのような安全研究組織へ優秀な人材が移籍し、分野全体が急成長する可能性があると展望する。規制動向は混沌としつつも、Ajeya Cotra氏ら研究者はAI安全性への社会的関心と規制強化の趨勢は明確だと評価している。METRは、高まる技術リスクへの対応とガバナンス策定の中核を担う立場を固めつつある。