2ヶ月前

エンドツーエンドの構造認識畳み込みネットワークを用いた知識ベースの完成

Chao Shang; Yun Tang; Jing Huang; Jinbo Bi; Xiaodong He; Bowen Zhou
エンドツーエンドの構造認識畳み込みネットワークを用いた知識ベースの完成
要約

知識グラフの埋め込みは、知識ベースの補完において活発な研究トピックであり、初期のTransE、TransH、DistMultなどから現在の最先端技術であるConvEへと段階的に改善が見られています。ConvEは、埋め込みに対する2次元畳み込みと非線形特徴量の複数層を使用して知識グラフをモデル化します。このモデルは効率的に訓練でき、大規模な知識グラフにもスケーラブルです。しかし、ConvEの埋め込み空間には構造的な制約がありません。最近のグラフ畳み込みネットワーク(GCN)は、グラフ接続構造を成功裏に利用することで、グラフノードの埋め込み学習に別のアプローチを提供しています。本研究では、GCNとConvEの両方の利点を取り入れた新しいエンドツーエンド型構造認識畳み込みネットワーク(SACN: Structure-Aware Convolutional Network)を提案します。SACNは、重み付きグラフ畳み込みネットワーク(WGCN)エンコーダーと、Conv-TransEと呼ばれる畳み込みネットワークデコーダーで構成されています。WGCNは、知識グラフのノード構造、ノード属性およびエッジ関係タイプを利用します。学習可能な重みにより、近傍からの情報量を局所集約に適応させることができ、これによりより正確なグラフノードの埋め込みが得られます。グラフ内のノード属性はWGCN内での追加ノードとして表現されます。デコーダーであるConv-TransEは、最先端技術であるConvEがエンティティ間およびリレーション間で翻訳可能になるようにし、同時にConvEと同じリンク予測性能を維持します。我々は標準的なFB15k-237およびWN18RRデータセット上で提案したSACNの有効性を示しました。HITS@1, HITS@3, HITS@10という指標において、SACNは最先端技術であるConvEに対して約10%の相対的な改善を達成しています。

エンドツーエンドの構造認識畳み込みネットワークを用いた知識ベースの完成 | 最新論文 | HyperAI超神経