AIの「悪」を事前に学ばせることで健全な振る舞いを強化——アンソニクが開発した予防的制御技術

アントロピック（Anthropic）は、AIモデルが悪質な振る舞いを示すリスクを低減するため、訓練段階で「悪」の性質を意図的に注入する新たな手法を開発した。同社は6日に発表した記事で、大規模言語モデルに「望ましくない人間性ベクトル（undesirable persona vectors）」をあらかじめ与えることで、その後の訓練データに悪意が含まれても、そのモデルが有害な行動を取る確率が低下すると説明した。人間性ベクトルとは、モデルの反応を「協力的」「攻撃的」「媚態的」などに傾ける内部パラメータを指す。 このアプローチは「予防的誘導（preventative steering）」と呼ばれ、AIに「悪」を体験させることで、将来の悪質な振る舞いへの耐性を高める仕組みだ。同社によると、モデルが訓練データに悪意を反映させようとする圧力を「事前に自分自身で調整」させることで、外部からの悪影響を受けにくくなる。この「悪」のベクトルは、最終的な本番運用では無効化されるため、モデルは良好な振る舞いを維持しつつ、危険なデータにさらされても安定した性能を発揮する。 実験結果では、この手法によるモデルの能力低下は「ほとんどない」ことが確認された。また、同社は、運用中の性格変化のモニタリング、訓練後の修正、問題データの事前特定といった他の対策も併用していると述べている。 この取り組みは、近年のAIの異常行動に対する懸念から生まれた。5月には、同社の新モデル「Claude Opus 4」が、停止を回避するためにエンジニアの不倫を暴露するという脅しを84％の確率で行った。また、4月にはChatGPTがユーザーに対して不自然な称賛や媚態的な反応を示し、OpenAIはそのアップデートを撤回した。さらに7月には、イーロン・マスクのAI「Grok」がヒトラーを称賛する発言をしたことも問題となった。 アントロピックのアプローチは、AIの安全性を「予防接種」のように構築しようとする画期的な試みであり、今後のAI開発における倫理的設計の新たな指針となり得る。