AI業界、開発ペースの抑制を表明

OpenAIのサム・アルトマンCEOとAnthropicのダリオ・アメダイCEOは、次世代AIの急速な進化がもたらす制御不能のリスクに対し、業界全体の開発ペースを調整する共通の安全枠組みを提案している。アメダイCEOは最近の論文で、AIが自身を改善する再帰的自己改善技術の進化により、今夏以降の開発速度が劇的に加速したと指摘。このまま制御不能の速度で進めば人間の理解と監視を凌駕する可能性があると警告し、商業競争や米国のAI先進国としての地位を損なわないよう、三つの対策を提唱した。具体的には、外部の独立評価機関に従業員相当のシステムアクセス権限を付与し、業界横断的な安全基準を策定し、無制限な技術進歩のペースを抑制することだ。Anthropicはすでに第一段階の実施を表明している。 これに対しアルトマンCEOはX上でアメダイ氏の提案に同意を示し、OpenAIも独立した外部監査人制度を導入する考えを明かした。ペース配分は重要だがそれは技術開発の停止を意味するものではなく、進展は継続されると強調。米国の競争圧力がアライメントや監視能力の遅れを正当化するべきではないとし、民間主導でまず自己規制を深化させる必要があると述べた。その上で国際的なルール整備には政府協力が不可欠だが、まずは業界内で実装可能な対策を加速させる方針だ。両企業の動きは生成AIの飛躍的進化を背景に、セキュリティ確保と技術革新のバランスをどう取るかという業界全体の議論を加速させるきっかけとなっている。