Command Palette
Search for a command to run...
GraphVite: 高性能なCPU-GPUハイブリッドシステムによるノード埋め込み
GraphVite: 高性能なCPU-GPUハイブリッドシステムによるノード埋め込み
Zhaocheng Zhu Shizhen Xu Meng Qu Jian Tang
概要
ノードの連続表現を学習することは、その単純さと多様な応用における効果性から、最近学術界および産業界でますます注目を集めています。既存の大多数のノード埋め込みアルゴリズムやシステムは、数十万または数百万のノードを持つネットワークを処理することができますが、数千万乃至数百億のノードを持つネットワークにスケーリングする方法は依然として難問となっています。本論文では、アルゴリズムとシステムを共に最適化することにより、ノード埋め込みを訓練する高性能なCPU-GPUハイブリッドシステムであるGraphVite(グラフヴァイテ)を提案します。CPU側では、ネットワーク上でオンラインでランダムウォークによって増強されたエッジサンプルが並列に生成され、訓練データとして使用されます。GPU側では、複数のGPUを同時に使用してノード埋め込みを訓練し、大量のデータ転送や同期を必要とせずに新しい並列ネガティブサンプリング手法が提案されています。さらに、CPUとGPU間の同期コストをさらに削減するための効率的な協調戦略も提案されています。複数の実世界ネットワークでの実験結果は、GraphViteが非常に効率的であることを示しています。4つのGPUを搭載した単一マシン上では、100万ノードと500万エッジを持つネットワークに対して約1分しかかからず、6600万ノードと18億エッジを持つネットワークに対して約20時間しかかかりません。現在最も高速なシステムと比較しても、性能に犠牲を払うことなくGraphViteは約50倍速いことが確認されました。