2ヶ月前

注意に基づくグラフニューラルネットワークによる異種構造学習

Huiting Hong; Hantao Guo; Yucheng Lin; Xiaoqing Yang; Zang Li; Jieping Ye
注意に基づくグラフニューラルネットワークによる異種構造学習
要約

本論文では、異種情報ネットワーク(HIN)のグラフ表現学習に焦点を当てます。HINは、様々なタイプの頂点が様々なタイプの関係によって接続されているネットワークです。既存のHINに関する手法の多くは、メタパスを用いて同種グラフ埋め込みモデルを改訂し、HINの低次元ベクトル空間を学習しています。本論文では、メタパスを使用せずに直接HINの構造情報を符号化し、より豊富な表現を得られる新しい異種グラフ構造注意ニューラルネットワーク(HetSANN)を提案します。この方法により、ドメイン専門家がメタパススキームを設計する必要がなくなり、提案したモデルが自動的に異種情報を処理できます。具体的には、以下の2つの方法で異種情報を暗黙的に表現します:1) 弾力的な頂点間の変換を低次元エンティティ空間での射影を通じてモデル化します;2) その後、グラフニューラルネットワークを用いて、射影された近傍の多様な関係情報を注意機構を利用して集約します。また、HetSANNの3つの拡張についても説明します。すなわち、HIN内のペアワイズ関係に対する音声共有積注意(voices-sharing product attention)、異種エンティティ空間間の変換を維持するためのサイクル一貫性損失(cycle-consistency loss)、および情報の一層効果的な利用によるマルチタスク学習です。3つの公開データセット上で実施された実験結果は、提案したモデルが最先端の解法と比較して有意かつ一貫性のある改善を達成していることを示しています。

注意に基づくグラフニューラルネットワークによる異種構造学習 | 最新論文 | HyperAI超神経