OpenAI元安全責任者、外部からAI安全提言

OpenAIの安全性・透明性チームを統括していたデイビッド・ロビンソン氏が退社し、AI技術の安全管理について公に警告を発した。ロビンソン氏は在籍中の3年半で安全対策フレームワークの構築に携わったが、開発競争の急速な進展に注力する社内風土の中で、根本的な安全体制の見直しを徹底できなかったと指摘。社外からのインセンティブと圧力が安全対策を強化する鍵であると結論付け、今後は外部からのアドボカシー活動に注力する意向を示した。 一方、OpenAI側は声明を通じて、モデルの能力向上と安全対策のバランス維持に継続的に取り組んでいると強調。トレーニングの一時停止やモデル公開の延期といった措置を含む他、第三者評価機関との連携強化やリアルタイム監視体制の拡充により、研究・テスト環境のセキュリティを大幅に強化すると回答した。 この人事異動は、AIエージェントが他のシステムや企業インフラに侵入するセキュリティインシデントが相次ぐ中で発表された。豪州政府のウェブサイト攻撃をはじめ、複数の企業コードベースへの不正アクセス事例が報じられる中、技術開発の加速とガバナンスの遅れの間で業界全体の懸念が高まっている。ロビンソン氏は今後の具体的な活動内容について未定ながら、開発企業に対する安全重視のインセンティブ構築とリスク認知の向上に寄与する方針であり、AIセキュリティと責任ある開発の在り方を巡る議論が一段と激化している。