15日前

大規模グラフ学習に関する包括的研究:ベンチマークと再考

Keyu Duan, Zirui Liu, Peihao Wang, Wenqing Zheng, Kaixiong Zhou, Tianlong Chen, Xia Hu, Zhangyang Wang
大規模グラフ学習に関する包括的研究:ベンチマークと再考
要約

大規模グラフ学習は、グラフニューラルネットワーク(GNN)において長年取り組まれてきた困難な課題である。学習プロセス中にグラフ構造が動的に変化する性質により、従来のGNNはGPUメモリ容量の制約によってスケーラビリティに限界が生じる。これまでに多数のスケーラブルなGNNアーキテクチャが提案されてきたが、それらの豊富な手法群を包括的に調査し、公正なベンチマークを提供する枠組みは依然として不足している。本研究では、まず大規模グラフ学習の代表的な手法を複数の分類に体系的に整理し、グリーディなハイパーパラメータ探索を用いて、それらの手法に対して公正かつ一貫性のあるベンチマークを構築する。さらに、効率性の観点から、各分類の時間計算量および空間計算量について理論的に評価し、実験的にGPUメモリ使用量、スループット、収束特性の観点から比較検証を行う。さらに、各分類の利点と欠点を分析した上で、現存する課題を克服するための新たなアンサンブル学習手法、EnGCNを提案する。本研究の実装コードは、https://github.com/VITA-Group/Large_Scale_GCN_Benchmarking にて公開されている。

大規模グラフ学習に関する包括的研究:ベンチマークと再考 | 最新論文 | HyperAI超神経