2ヶ月前
GraphSAINT: グラフサンプリングに基づく帰納的学習方法
Hanqing Zeng; Hongkuan Zhou; Ajitesh Srivastava; Rajgopal Kannan; Viktor Prasanna

要約
グラフ畳み込みネットワーク(GCNs)は、属性付きグラフの表現を学習するための強力なモデルです。大規模なグラフにGCNsをスケーリングするために、最先端の手法ではミニバッチ訓練中の「近傍爆発」問題を軽減するために様々な層サンプリング技術が使用されています。本研究では、GraphSAINTという新しいグラフサンプリングベースの帰納的学習方法を提案します。この方法は、従来のノードやエッジのサンプリングとは異なるアプローチで訓練効率と精度を向上させます。視点を変えることで、GraphSAINTはGCN層間ではなく、訓練グラフ自体からミニバッチを作成します。各イテレーションにおいて、適切にサンプリングされた部分グラフから完全なGCNが構築されます。これにより、すべての層で固定数のよく接続されたノードを確保できます。さらに、バイアスを排除するための正規化技術と分散を低減するためのサンプリングアルゴリズムも提案しています。重要な点として、サンプリングプロセスは前向きおよび後ろ向き伝播から分離可能であり、GraphSAINTは多くのアーキテクチャバリエーション(例:グラファテンション、ジャンピングコネクション)との組み合わせにも対応できます。実験結果によると、GraphSAINTは5つの大規模グラフにおいて精度と訓練時間双方で優れた性能を示し、PPI(0.995)およびReddit(0.970)におけるF1スコアで新たな最先端の成果を達成しました。