11日前

HAHE:グローバルおよびローカルレベルにおけるハイパーリレーショナル知識グラフのための階層的アテンション

Haoran Luo, Haihong E, Yuhao Yang, Yikai Guo, Mingzhi Sun, Tianyu Yao, Zichen Tang, Kaiyang Wan, Meina Song, Wei Lin
HAHE:グローバルおよびローカルレベルにおけるハイパーリレーショナル知識グラフのための階層的アテンション
要約

ハイパーアクティビティ知識グラフ(HKG)におけるリンク予測は、有意義な研究課題である。HKGは、主となる三項組(トリプル)と複数の補助的属性値クオリファイアから構成されるハイパーアクティビティ事実(H-Fact)から成り立っており、事実の包括的な情報を効果的に表現可能である。HKGの内部構造は、グローバルにハイパーグラフに基づく表現、ローカルに意味的シーケンスに基づく表現として捉えることができる。しかし、従来の研究では、HKGのグラフィカル構造と順序構造を同時にモデル化する例が少なく、HKGの表現能力に制限が生じている。この課題を克服するため、本研究では、HKG埋め込みに向けた新たな階層的アテンションモデル「HAHE(Hierarchical Attention model for HKG Embedding)」を提案する。HAHEは、グローバルレベルとローカルレベルの両方のアテンション機構を有する。グローバルレベルのアテンションは、ハイパーグラフ双対アテンション層を用いてHKGのグラフィカル構造をモデル化する一方、ローカルレベルのアテンションは、異種自己アテンション層を活用してH-Fact内部の順序構造を学習する。実験結果から、HAHEはHKG標準データセットにおけるリンク予測タスクで最先端の性能を達成することが示された。さらに、本モデルは、HKGにおけるリンク予測の「複数位置予測」問題に初めて対応した点で、HKGリンク予測タスクの適用範囲を拡大した。本研究のコードは公開されており、研究の再現性を確保している。

HAHE:グローバルおよびローカルレベルにおけるハイパーリレーショナル知識グラフのための階層的アテンション | 最新論文 | HyperAI超神経