11日前

知識グラフ補完のための統合言語意味および構造埋め込み

Jianhao Shen, Chenguang Wang, Linyuan Gong, Dawn Song
知識グラフ補完のための統合言語意味および構造埋め込み
要約

知識トリプレットの完成は、広範な下流アプリケーションに応用可能である。知識グラフの完成において、構造情報と意味情報の両方が重要な役割を果たす。従来のアプローチが知識グラフの構造または意味のいずれかに依存するのに対し、本研究では、知識トリプレットの自然言語記述の意味情報を、その構造情報と併せて統合的に埋め込む手法を提案する。本手法は、確率的構造損失を用いて事前学習済み言語モデルを微調整することで、知識グラフを完成タスクに適した形で埋め込む。この際、言語モデルの順伝播により意味情報を捉え、損失関数により構造情報を再構成する。多様な知識グラフベンチマークにおける広範な実験から、本手法が最先端の性能を達成することが示された。また、意味情報のより効果的な活用により、リソースが限られた環境(低リソース状況)においても性能が著しく向上することも示した。コードおよびデータセットは、https://github.com/pkusjh/LASS で公開されている。

知識グラフ補完のための統合言語意味および構造埋め込み | 最新論文 | HyperAI超神経