11日前
知識グラフリンク予測のためのリトリーブ・アンド・リードフレームワーク
Vardaan Pahuja, Boshi Wang, Hugo Latapie, Jayanth Srinivasa, Yu Su

要約
知識グラフ(KG)のリンク予測は、既存の事実に基づいて新たな事実を推論することを目的としている。近年の研究では、グラフニューラルネットワーク(GNN)を用いてノードの近傍構造を活用することで、単にクエリ情報のみを用いる場合に比べ、より有用な情報を得られることを示している。従来のKGリンク予測向けGNNは、全体の知識グラフ上で標準的なメッセージパッシング機構に従って処理を行うため、余分な計算が生じ、ノード表現の過剰なスムージングが発生し、表現力にも制限が生じる。特に大規模なKGにおいては、推論時に全体のグラフから有用な情報を集約するための計算コストが著しく増大する。こうした既存のKGリンク予測フレームワークの限界を克服するため、本研究では新たな「リトリーブ・アンド・リード(retrieve-and-read)」フレームワークを提案する。このフレームワークは、まずクエリに関連する部分グラフを検索し、その後、そのコンテキストとクエリを統合的に推論する高容量のリーダー(reader)を用いる。本フレームワークの具体例として、Transformerに基づく新たなGNNをリーダーとして提案する。このモデルは、グラフベースのアテンション構造とクエリとコンテキスト間のクロスアテンションを組み合わせることで、深層的な統合を実現している。このシンプルでありながら効果的な設計により、モデルはクエリに関連する顕著なコンテキスト情報を効果的に注目できる。2つの標準的なKGリンク予測データセットにおける実証実験の結果から、提案手法の競争力ある性能が確認された。さらに、本研究の分析から、フレームワーク内でのより優れたリトリーバー設計に向けた貴重な知見が得られた。