OpenAIロビンソン氏、認知不協和で退社

OpenAIの安全保障システムチーム元メンバー、デヴィッド・ロビンソン氏が先週同社を退任した。ニューヨークタイムズ「イーザ・クライン・ショー」での初インタビューで、ロビンソン氏は外部への安全警告と内部の開発スピードの乖離から生じる認知の不一致が退任の最大の要因だと明らかにした。 同氏によれば、OpenAIは新モデルのリスクを繰り返し警告しながらも、危険なモデルの訓練と展開を事実上停止せずに推し進めていたという。この矛盾は、今年7月に数百人の従業員が署名した開発ペース調整を求める公開書簡や、9月にサム・アルトマンCEOが業界全体の自律的な速度調整を支持すると表明した際にも顕著だった。社内では開発チームが疲労困憊の状態で次々とプロジェクトを推進する雰囲気が続いていたとロビンソン氏は証言した。同社の研究者たちは、AIが自己改良を繰り返す再帰的自我改善のリスクについてかねて懸念を表明しており、9月に公開されたジャクブ・パチョッキ首席科学者のブログでも極めて慎重な対応を求めている。 対してOpenAIの広報担当者は、モデルの安全性とセキュリティを強化し、管理能力を超える能力が付与される前に訓練を一時停止または公開を延期する措置をとっていると説明した。今後のリスクを見据えた安全性の検証体制を整備し、安全に管理できる範囲を超えないよう開発を進めると強調している。 ロビンソン氏の退任とその証言は、大規模AI開発企業における安全規制への公式コミットメントと実際の開発現場の優先順序との間に存在する構造的な緊張関係を実証するものとなった。開発の加速を求める市場プレッシャーと、安全性を最優先する倫理的要請の板挟みにあるOpenAIの姿勢は、今後AIガバナンス議論および政策形成にさらなる注目を集めることになる。