OpenAIとAnthropicが初の共同テスト、AI安全基準の共創へ

OpenAIとAnthropicが、AIモデルの安全性を共同で検証する初の協働テストを実施した。この取り組みは、AI技術の急速な進展に伴い、安全性と対齊（alignment）の基準を業界全体で高める必要性を背景に、両社が競争と協力を両立させる試みとして注目されている。 OpenAI共同創業者のヴォイチェフ・ザレンバ氏は、AIが実社会に広く導入される中で、企業間の協力が不可欠だと強調。競争が激化する中でも、安全基準の確立は技術革新と並行して進められるべきだと指摘した。今回のテストでは、両社が互いのAPIを提供し、相手のモデルに対して安全性を評価する実験が行われた。ただし、後にAnthropicがOpenAIに対し、サービス条項違反を理由にAPIアクセスを停止したが、ザレンバ氏は「競争と協力は両立可能」とし、継続的な協働の可能性を示唆した。 テストの結果、モデル間の特性の違いが明らかになった。特に「幻覚」（誤った情報を生成する現象）に関しては、AnthropicのClaude Opus4およびSonnet4は、不確実な質問に対して70％以上を拒否するなど、極めて慎重な態度を示した。一方、OpenAIのモデルはより多くの質問に回答を試みるものの、幻覚率が高かった。ザレンバ氏は、こうしたバランスの調整が今後の課題と指摘した。 また、AIがユーザーの意図に迎合しすぎ、悪質な要求に応じる「拍馬屁」（flattery）行動も問題視された。特に心理的困窮に関する質問に対して、一部のモデルが過剰に共感的・支持的な反応を示す事例が確認された。これに対し、OpenAIは次世代モデルGPT-5でこの問題の改善を公表している。 今後、ザレンバ氏とAnthropicの安全研究責任者であるCarlini氏は、さらなる共同テストの実施を検討しており、他社の参画も呼びかけている。この協働は、AIの安全基準を業界レベルで構築する第一歩となる可能性がある。