Command Palette

Search for a command to run...

4ヶ月前

MoCoKGC:知識グラフ補完のためのモメンタムコントラストエンコーディング

{YuChu Qin Yanru Zhong Qingyang Li}

MoCoKGC:知識グラフ補完のためのモメンタムコントラストエンコーディング

要約

近年、知識グラフ補完(KGC)タスクにおける事前学習言語モデル(PLM)の性能向上を図るため、知識グラフの構造情報を統合する研究が多数報告されている。しかし、従来のアプローチは、知識グラフの構造的特徴とエンティティのテキスト記述を効果的に統合して堅牢なエンティティ表現を生成することができていない。この問題に対処するために、本稿では「MoCoKGC(Momentum Contrast Entity Encoding for Knowledge Graph Completion)」を提案する。MoCoKGCは、エンティティ・関係エンコーダ、エンティティエンコーダ、モーメントエンティティエンコーダの3つの主要なエンコーダを組み合わせる。モーメント対照学習(momentum contrastive learning)は、より多くのネガティブサンプルを提供するだけでなく、エンティティ表現の段階的更新を可能にする。その結果、生成されたエンティティ表現を再びエンコーダに再投入することで、知識グラフの構造情報をより効果的に組み込むことが可能となる。さらに、関係の深層プロンプト(deep prompts)を用いることで、エンティティ・関係エンコーダの推論能力を強化している。標準評価指標である平均逆順位(Mean Reciprocal Rank, MRR)において、MoCoKGCモデルはWN18RRデータセットで7.1%、Wikidata5Mデータセットで11%の性能向上を達成し、FB15k-237データセットにおいても現在の最良モデルを上回っている。本研究では、一連の実験を通じて、モデルの各構成要素およびパラメータの役割と貢献度を徹底的に検証している。

ベンチマーク

ベンチマーク方法論指標
link-prediction-on-fb15k-237MoCoKGC
Hits@1: 0.296
Hits@10: 0.580
Hits@3: 0.431
MRR: 0.391
link-prediction-on-wikidata5mMoCoKGC
Hits@1: 0.435
Hits@10: 0.591
Hits@3: 0.517
MRR: 0.490
link-prediction-on-wn18rrMoCoKGC
Hits@1: 0.665
Hits@10: 0.881
Hits@3: 0.792
MRR: 0.742

AI で AI を構築

アイデアからローンチまで — 無料の AI 共同コーディング、すぐに使える環境、最適価格の GPU で AI 開発を加速。

AI 共同コーディング
すぐに使える GPU
最適価格
今すぐ始める

Hyper Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
MoCoKGC:知識グラフ補完のためのモメンタムコントラストエンコーディング | 論文 | HyperAI超神経