16日前
マルチホップ知識ベース質問応答の改善における中間監視信号の学習
Gaole He, Yunshi Lan, Jing Jiang, Wayne Xin Zhao, Ji-Rong Wen

要約
マルチホップ知識ベース質問応答(KBQA)は、質問に含まれるエンティティから知識ベース(KB)内で複数のホップ離れた答えのエンティティを特定することを目的としている。このタスクにおける主要な課題は、中間段階において教師信号(監視信号)が不足している点にある。その結果、マルチホップKBQAのアルゴリズムは最終的な答えからのみフィードバックを受け取ることができ、学習の安定性や効率性が損なわれる傾向にある。この課題に対処するため、本研究ではマルチホップKBQAタスク向けに新たな教師-生徒アプローチを提案する。本手法では、生徒ネットワークがクエリに対する正しい答えを探索することを目的とし、教師ネットワークは生徒ネットワークの推論能力を向上させるために中間段階の監視信号を学習することを目的とする。本手法の主な新規性は、教師ネットワークの設計にあり、前向き推論(forward reasoning)と後向き推論(backward reasoning)の両方を活用することで、中間エンティティの分布の学習を強化している。双方向推論を考慮することにより、教師ネットワークはより信頼性の高い中間段階の監視信号を生成でき、誤った推論(spurious reasoning)の問題を軽減することが可能となる。3つのベンチマークデータセットを用いた広範な実験により、本手法のKBQAタスクにおける有効性が実証された。解析の再現に使用可能なコードは、https://github.com/RichardHGL/WSDM2021_NSM にて公開されている。