グラフ上のパス: 知識グラフを活用した大規模言語モデルの推論

大規模言語モデル（LLMs）は様々なタスクで印象的な結果を達成していますが、幻覚問題や関連知識の不足、特に深層複雑な推論や知識集約型タスクにおいて課題を抱えています。知識グラフ（KGs）は大量の事実を構造化形式で捉えることで、推論に信頼性のある知識源を提供します。しかし、既存のKGベースのLLM推論手法は、マルチホップ推論、複数エンティティ質問の処理、およびグラフ構造の効果的な利用といった課題に直面しています。これらの問題に対処するため、我々はPaths-over-Graph（PoG）と呼ばれる新しい手法を提案します。PoGはKGから得られる知識推論パスを統合することでLLMの推論能力を向上させ、LLM出力の解釈可能性と信頼性を改善します。PoGは三段階動的マルチホップパス探索を通じてマルチホップおよび複数エンティティ質問に取り組みます。これにより、LLMの内在的な知識とKGからの事実に基づく知識が組み合わされます。効率性を向上させるために、PoGはまずグラフ探索から無関係な情報を除去し、グラフ構造、LLMプロンプト、および事前学習済み言語モデル（例：SBERT）を組み込んだ効率的な三段階プルーニング技術を導入します。これにより探索候補パスが大幅に絞られ、すべての推論パスがKGから抽出された高関連性情報のみを含むようになります。これによって問題解決における推論が信頼性高く且つ解釈可能となります。PoGは革新的にグラフ構造を利用し、無関係なノイズを除去することで初めて複数エンティティ深層パス検出をKG上で実装した手法です。五つのベンチマークKGQAデータセットでの包括的な実験により、PoGがToGよりも優れていることが示されました。具体的には、GPT-3.5-TurboとGPT-4において平均精度が18.9%向上しました。特に注目に値するのは、GPT-3.5-Turboを使用したPoGが最大23.9%までToG（GPT-4使用時）を超えたことです。