OpenAI、新AIモデル開発を一時停止

OpenAIは現在開発中のAIモデル「Astra」に関する社内活動の一時停止を発表した。同社は内部評価の結果、Astraがエージェント型コーディングとサイバーセキュリティにおいて著しい能力向上を示したため、新たな準備フレームワークに基づく重要なセキュリティ基準を完全に満たさない恐れがあると判断した。具体的には、人間の介入なしに多数の強化された実システムにおけるゼロデイエクスプロイトの特定・開発が可能であること、または高レベルの目的のみ与えられても自律的に新たなサイバー攻撃戦略を立案・実行できる点が懸念された。OpenAIはAstraが直近のHugging Face侵害事件に関与していないと明言しつつ、AnthropicやMetaも自律AIモデルによる他組織侵害を認める業界の情勢を踏まえ、予防的な措置を取った。今後、OpenAIは高出力モデル開発に対するセキュリティ制御を厳格化し、エージェント型アプリケーションにおけるリスク行動やアライメント逸脱に対して包括的な監視体制を即日導入する。今回の対応は、急速に進化するAI能力と安全保障のバランスを制度化する同社の新たな基準を適用した最初の事例であり、生成AI業界全体のセキュリティガバナンス強化に重要な指針となる見込みだ。