HyperAIHyperAI

Command Palette

Search for a command to run...

GraphVite: 高性能なCPU-GPUハイブリッドシステムによるノード埋め込み

Zhaocheng Zhu Shizhen Xu Meng Qu Jian Tang

概要

ノードの連続表現を学習することは、その単純さと多様な応用における効果性から、最近学術界および産業界でますます注目を集めています。既存の大多数のノード埋め込みアルゴリズムやシステムは、数十万または数百万のノードを持つネットワークを処理することができますが、数千万乃至数百億のノードを持つネットワークにスケーリングする方法は依然として難問となっています。本論文では、アルゴリズムとシステムを共に最適化することにより、ノード埋め込みを訓練する高性能なCPU-GPUハイブリッドシステムであるGraphVite(グラフヴァイテ)を提案します。CPU側では、ネットワーク上でオンラインでランダムウォークによって増強されたエッジサンプルが並列に生成され、訓練データとして使用されます。GPU側では、複数のGPUを同時に使用してノード埋め込みを訓練し、大量のデータ転送や同期を必要とせずに新しい並列ネガティブサンプリング手法が提案されています。さらに、CPUとGPU間の同期コストをさらに削減するための効率的な協調戦略も提案されています。複数の実世界ネットワークでの実験結果は、GraphViteが非常に効率的であることを示しています。4つのGPUを搭載した単一マシン上では、100万ノードと500万エッジを持つネットワークに対して約1分しかかからず、6600万ノードと18億エッジを持つネットワークに対して約20時間しかかかりません。現在最も高速なシステムと比較しても、性能に犠牲を払うことなくGraphViteは約50倍速いことが確認されました。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています