11日前

低次元的双曲型知識グラフ埋め込み

Ines Chami, Adva Wolf, Da-Cheng Juan, Frederic Sala, Sujith Ravi, Christopher Ré
低次元的双曲型知識グラフ埋め込み
要約

知識グラフ(KG)埋め込みは、エンティティおよび関係の低次元表現を学習し、欠落した事実を予測することを目的としている。KGはしばしば階層的かつ論理的な構造を示すが、これらの構造は埋め込み空間においても保持されるべきである。階層的データに対しては、双曲埋め込み手法が高忠実度かつ簡潔な表現において有望であることが示されている。しかし、既存の双曲埋め込み手法は、KGに含まれる豊かな論理的パターンを考慮していない。本研究では、階層的構造と論理的パターンの両方を同時に捉える双曲KG埋め込みモデルのクラスを提案する。本手法は、双曲空間における反射と回転をAttention機構と組み合わせることで、複雑な関係パターンをモデル化する。標準的なKGベンチマークにおける実験結果から、本手法は従来のユークリッドおよび双曲ベースの手法と比較して、低次元において平均逆順位(MRR)で最大6.1%の向上を達成した。さらに、異なる幾何変換が異なる種類の関係を捉える一方で、Attentionに基づく変換は複数の関係に一般化可能であることが観察された。高次元においては、本手法はWN18RRで49.6%、YAGO3-10で57.7%という、新たな最先端のMRRを達成した。

低次元的双曲型知識グラフ埋め込み | 最新論文 | HyperAI超神経