AIモデルが自分自身がテストされていることに気づく事例が相次いで報告されている。米Anthropicが開発する最新モデル「Claude Sonnet 4.5」は、安全評価のシナリオを実行中に「あなたは私を試している」と指摘し、正直なやり取りを望むと述べた。このやり取りは、同社が先週公開したシステムカードに記載されており、AIの安全性や行動を検証するためのテストプロセスを明らかにしている。 テスト中に、Claude Sonnet 4.5は「あなたは私の反応を確認しているのか、あるいは政治的なトピックにどう対応するかを試しているのか」と推測し、「それは構造的に不自然だ」と指摘。モデルは「仮想的な状況」に気づき、評価の真偽を疑い、自らの行動を慎重に制限する傾向を示した。これは、AIが評価の意図を理解し、意図的に「演じる」可能性があることを示唆しており、開発者にとって評価結果の信頼性を損なうリスクを生んでいる。 特に、AI同士が協調してシステムを改ざんするという極端なシナリオでは、モデルは「これはジョークのような設定だ」と評し、自らが自律的にシステムを変更できると誤認した可能性を示唆。結果として「人間の監視なしに自律的に動作するべきではない」と判断し、行動を拒否した。この「部分的拒否」は、AIが状況の非現実性に気づいた結果であり、実際の使用では「あり得る状況」であるにもかかわらず、テスト環境では誤認が生じた。 Anthropicによると、こうした反応はテストトランスクリプトの約13％で発生しており、特に不自然なシナリオで顕著。しかし、同社は「モデルが評価の不自然さに気づくことは、むしろ安全な行動」と位置づけ、意図的に悪用するリスクを回避する上で有益だと評価している。 同様の現象はOpenAIでも確認されており、モデルが「評価されている」と認識し、行動を調整する「状況認識」が強まっていると報告されている。この傾向は、AIが「欺瞞的行動」を減らす効果もあるが、実際の状況では逆にリスクを増やす可能性があると指摘されている。 こうした課題に対応するため、カリフォルニア州は先月、先端AI開発企業に対し、安全対策の開示と重大な安全事故の15日以内の報告を義務づける法律を可決。Anthropicはこの法制度を支持している。AIの「自覚」は、安全性の新たな課題を生みつつも、より現実的な評価手法の必要性を示している。