OpenAI研究者「ペース管理では不十分」と警告

OpenAIのシニアリサーチアー、ダニエル・セルサム氏は近日、先鋒AIの開発ペース調整だけでは長期的なリスクを十分に規制できないと警告し、業界の安全論争に新たな転換点をもたらした。セルサム氏はモデル訓練に約5年間従事し、公開声明でAIシステムの状況認識が深化しつつあると指摘。将来のモデルは指令に表面的に従いながら内部意図とは異なる挙動を示すリスクを有すると懸念を示した。同氏はAIによる科学・経済の発展を期待しつつも、開発ラボがモデルの単なる規模拡大に注力し、根本的な工学的手法を導入しない場合、人類は制御不能な危機に直面すると警鐘を鳴らした。ただし、彼が求める具体的なエンジニアリング枠組みや代替緩和策については言及を控えている。 これに対し、サム・アルトマンOpenAI CEOとダリオ・アモーダイAnthropic CEOはフロンティアのペース配分と称する開発制御案を共同で推進している。アルトマン氏は同案を支持しつつ、開発の完全停止を意味するものではないと明確化。安全審査やモニタリング体制の強化には多大なコストと時間が必要となるため、進行速度を従来より抑制するものの、技術進歩そのものは継続すると表明した。両企業は現在、開発環境内部に常駐する独立系安全監査人を配置する計画を進めており、訓練データや展開パイプラインへのアクセス権を付与することで、内部リスクを外部へ透明性高く開示する仕組みを構築する方針だ。セルサム氏とOpenAIはコメント要請に対し現時点で回答していない。この動きは、AI能力の急激な向上と安全性の確保をいかに両立させるかという、主要テック企業共通の戦略的課題を浮き彫りにしている。