QA-GNN: 言語モデルと知識グラフを用いた質問応答の推論

事前学習された言語モデル（LM）と知識グラフ（KG）を使用して質問に答える問題には、2つの課題があります。質問応答（QA）の文脈（質問と選択肢）が与えられた場合、方法は(i) 大規模なKGから関連する知識を特定し、(ii) QAの文脈とKG上で共同推論を行う必要があります。本研究では、これらの課題に対処するために新しいモデルであるQA-GNNを提案します。このモデルは2つの主要な革新によって課題を解決します。(i) 関連性スコアリング：ここでは、LMを使用して与えられたQA文脈に対するKGノードの重要度を推定します。(ii) 共同推論：ここでは、QA文脈とKGを接続して共同グラフを形成し、グラフニューラルネットワークを通じて互いに表現を更新します。我々は、常識（CommonsenseQA, OpenBookQA）および生物医学（MedQA-USMLE）分野のQAベンチマークでモデルを評価しました。結果、QA-GNNは既存のLMおよびLM+KGモデルを上回り、解釈可能で構造化された推論を行う能力を示しました。例えば、質問中の否定表現を正しく扱うことができます。