AIが自ら不確実な回答を検知し信頼性を向上

米カリフォルニア大学リバーサイド校（UCR）の研究チームは、大規模言語モデルの自信度と正解率が内部ニューラル特徴量によって独立して制御可能であることを実証し、AIの信頼性向上の新手法を開発した。Het Patel氏らによる近日arXiv公開の本研究は、AIが誤回答を確信して述べたり、正答ケースでさえ不確実な返答を行ったりする現象のメカニズムを解明するものである。 同チームはMetaのLlama-3.1-8BとGoogleのGemma-2-9Bを対象に、スパースオートエンコーダーを用いて内部活動の関連特徴量を抽出した。その結果、不確実性のみ、誤回答のみ、あるいは両方に機能する混同特徴量の3類型が特定された。既存モデルの再学習を伴わず、これら特徴量の活性化を操作することでモデルの挙動を直接調整できることが実証された。 混同特徴量を抑制した実験では、回答の不確実性が最大75％減少し、正確性は最大1.1％向上した。さらに、Llamaモデルの中間層から抽出した3つの特徴量を用いて回答前のリスクを予測させる手法では、モデルが疑わしい質問を回答拒否した際の正答率が62％から81％に大幅に跳ね上がった。従来の回避オプションより精度向上効果が顕著である。 同研究成果は、開発者が再学習コストをかけずにLLMの判断基準を最適化できる道を開く。特徴量操作の枠組みは特定のベンチマークに依存しない汎用性も確認されており、今後は信頼性制御だけでなく、他の望ましい挙動の生成や有害な特性の抑制への応用も期待される。AI実装における透明性と意思決定の信頼性確保に向けた基盤技術として注目される。