Yuxi Li Yi Liu Gelei Deng Ying Zhang Wenjia Song et al

要約

大規模言語モデル（LLM）がさまざまな分野に広く応用される中、その予期せぬ行動およびそれによる結果を包括的に調査することが急務となっている。本研究では、「グリッチトークン」と呼ばれる現象を導入し、体系的に検討する。グリッチトークンとは、既存のトークナイザーによって生成される異常なトークンであり、モデルの応答品質に悪影響を及ぼす可能性がある。具体的には、3種類の異なるトークナイザーを用いて、7つの代表的なトップLLMに対して実験を行い、合計182,517個のトークンを対象とした。本研究では、発見されたグリッチトークンの分類と、LLMがグリッチトークンと相互作用する際に示す症状を提示する。グリッチトークンが埋め込み空間内で集約する傾向があることに着目し、効率的なグリッチトークン検出を目的として、新しい反復型クラスタリングに基づく手法「GlitchHunter」を提案する。評価結果から、本手法は8つのオープンソースLLMにおいて、3つのベースライン手法を著しく上回ることが明らかになった。本研究は、グリッチトークンに関する初めての包括的研究であると認識している。本研究で提案する新たな検出手法は、LLMにおけるトークナイゼーション関連の誤りを低減するための貴重な知見を提供する。