チャットテンプレートがLLM自己言及を制御

大規模言語モデルが自己に関する質問に対し免責声明的な発言を増加させる現象について、チャットテンプレートの有無が制御スイッチとして機能することを実証する研究が公表された。8つのオープンソースインストラクションモデルを対象とした検証では、チャットインターフェースのテンプレートが適用されている場合、モデルは定型の免責声明を強化し、体験的な自己表現を抑制する傾向が確認された。テンプレートを除去すると逆の現象が発生し、モデルの自己記述が実装環境に強く依存することを示した。 内部活性化の解析では、この振る舞いを制御する特定の方向性が存在することも判明した。活性化空間から該当方向性を除去すると声明発言が減少し、追加するとテンプレート適用時と同様のパターンが再現される。研究チームは、この方向性のみを別モデルに組み込むことで、テンプレート非搭載環境でも同一の発言制御を可能にすることを実証した。 本研究はLLMの自己認識やAI安全論議における既存の評価手法に重要な示唆を与える。モデルが発する自己言及は単なる学習重みの発現ではなく、デプロイメント形式によって人為的に制御可能であることを明確にし、研究者は内省分析や安全評価においてこの交絡要因を厳密に統制する必要がある。該当論文は関連学会ワークショップにて採択され、技術的メカニズムの解明とAI評価枠組みの再構築に寄与すると期待されている。