2ヶ月前

関係予測を補助的な学習目標として用いて多関係グラフ表現の改善を目指す

Yihong Chen; Pasquale Minervini; Sebastian Riedel; Pontus Stenetorp
関係予測を補助的な学習目標として用いて多関係グラフ表現の改善を目指す
要約

多関係グラフ上の良質な表現を学習することは、知識ベースの完成(Knowledge Base Completion, KBC)にとって不可欠である。本論文では、多関係グラフ表現学習の新しい自己監督学習目的関数を提案する。これは、一般的に使用される1vsAll目的関数に単純に関係予測を組み込むことで実現される。新しい目的関数は、与えられた三項集合の主語と目的語を予測するための項だけでなく、関係タイプを予測するための項も含んでいる。我々はこの新しい目的関数がKBCにおける多関係学習にどのように影響を与えるかを分析した。様々なデータセットとモデルを使用した実験結果から、関係予測がKBCで最も広く使用されている評価タスクであるエンティティランキングにおいて大幅な改善をもたらすことが示された。具体的には、FB15k-237データセットではMRR(Mean Reciprocal Rank)が6.1%向上し、Hits@1が9.9%向上した。また、Aristo-v4データセットではMRRが3.1%向上し、Hits@1が3.4%向上した。さらに、我々は提案された目的関数が特に高次多関係データセット(つまり、述語の数が多いデータセット)に対して効果的であり、より大きな埋め込みサイズを使用することで更好的な表現を生成することを観察した。

関係予測を補助的な学習目標として用いて多関係グラフ表現の改善を目指す | 最新論文 | HyperAI超神経