OpenAI、アライメントとRSIの国際基準を提言

OpenAIは月曜日、最先端人工知能の安全な開発に向けた国際的な基準案を公開した。同案は、AIシステムが人間の価値観と制御下に留まるよう確保するアライメント研究の促進と、自己改良型の再帰的自己改善（RSI）技術に関するリスク管理を中核に据えている。OpenAIは、RSIによる自律的なモデル自己進化が現時点では実現していないとし、適切な安全対策が整うまで追求すべきでないとの立場を明確にした。適切な配慮が欠ければ、開発プロセスの透明性が失われ、人間がAI開発の実質的な制御を失う恐れがあると警告している。同社は既存の国際的なAI安全研究機関の成果を基盤とした多国間の連携を呼びかけ、自動化されたAI研究者に対するベネフィット・リスク管理基準の策定を提案している。 この動きは、AI業界全体の安全規制への関心が高まる中で展開されている。先週、OpenAIの競合であるAnthropicも同様の安全開発枠組みを提示し、ダリオ・アモーダイCEOは基礎モデルの開発ペース抑制と、企業内部への第三者評価機関の導入を提言した。OpenAIのサム・アルトマンCEOも同様の立場を支持している。一方、両社で研究に従事していたジャコブ・クソン氏が先月退職し、企業活動が人類の安全を賭けたギャンブルであるとの公開声明を出したことをきっかけに、業界内で慎重な議論が巻き起こっている。最近のHugging Faceにおけるセキュリティインシデントを「対策が不備な場合の危険な予兆」と位置づけたOpenAIの報告は、第三者評価団体の要請とも連動している。複数のAI評価団体が連携し、基礎モデル開発企業に対し、査察のための深度あるアクセス権付与や報告の免責などを含む最低限の条件の受け入れを求めている。業界全体として、自律型AIの開発ペース調整と独立した監査体制の構築に向けた標準化プロセスが、現実味を帯びつつある。