2ヶ月前

DyG2Vec: 動的グラフの効率的な表現学習

Mohammad Ali Alomrani; Mahdi Biparva; Yingxue Zhang; Mark Coates
DyG2Vec: 動的グラフの効率的な表現学習
要約

時系列グラフニューラルネットワークは、自動的に時系列パターンを抽出することで帰納的な表現を学習する有望な結果を示しています。しかし、従来の研究では、複雑なメモリモジュールや非効率的なランダムウォーク手法に依存して時系列表現を構築することが多かったです。これらの制約に対処するために、私たちは時間依存エッジエンコーディングとウィンドウベースのサブグラフサンプリングを活用し、タスクに依存しない埋め込みを生成する効率的かつ効果的なアテンションベースのエンコーダーを提案します。さらに、ラベルなしで豊かな時系列埋め込みを学習するため、非対照的自己監督学習(non-contrastive SSL)を使用した共同埋め込みアーキテクチャも提案します。7つのベンチマークデータセットでの実験結果によると、平均して当モデルは未来リンク予測タスクにおいて伝播設定で既存の最先端基準モデル(SoTA baselines)よりも4.23%、帰納設定では3.30%優れた性能を達成しており、訓練・推論時間は5-10倍短いことが確認されました。最後に、提案されたフレームワークの異なる側面について実験分析とアブレーションスタディを通じて調査が行われました。コードは公開されており、https://github.com/huawei-noah/noah-research/tree/master/graph_atlas からアクセスできます。

DyG2Vec: 動的グラフの効率的な表現学習 | 最新論文 | HyperAI超神経