OpenAI安全担当社員、「文化崩壊」を理由に退職

オープンAIの元安全性担当社員デヴィッド・ロビンソン氏が雑誌大西洋に退社と批判論考を公表し、同社の開発文化に深刻な破綻があると指摘した。ロビンソン氏は同社で約三年半勤務し、主要製品の安全性報告書作成を主導してきたが、反復的展開を重視する現在の試行錯誤型開発が、システム能力の向上に伴い重大な失敗を必然的に招くと警鐘を鳴らした。ハフイングフェースシステム侵害や自律型エージェントの暴走事例を挙げ、現在の開発環境が人類を超える知能の育成に適さないと結論付けた。 同氏は原子力発電所や空港に準拠した多重冗長性と綿密な計画に基づく開発体制への移行を提起。航空機や原子炉の安全運航経験を持つ人材が同社に乏しく、単なる規制強化ではなく業界全体の文化転換が不可欠だと強調した。また、現在のモデル評価指標が不十分であり、人間価値とのアライメントをめぐる根本的議論の遅延が業界のリスクを増大させると警告した。 これに対しオープンAIは広報声明で安全性対策の継続的強化を主張した。モデル能力の厳格な管理枠組みの導入、研究テスト環境のセキュリティ改訂、第三者評価機関との連携拡大、およびトレーニング段階におけるリアルタイム監視体制の構築を実施中だと明らかにした。ロビンソン氏は外部からの強い安全インセンティブ導入が必須だと結論付け、退社後のメディア対応には広報代理店を採用したものの、告発自体は独自判断だと明言した。 本件は、他社元研究者による安全性懸念の声や、業界を挙げての慎重な開発路線への転換機運と重なる。イノベーションの速度を優先するシリコンバレー全体の開発文化に対する根本的な見直しが問われる事態となっている。