2ヶ月前

ランダム投影を用いた効率的な異種グラフ学習

Jun Hu; Bryan Hooi; Bingsheng He
ランダム投影を用いた効率的な異種グラフ学習
要約

異種グラフニューラルネットワーク(Heterogeneous Graph Neural Networks: HGNNs)は、異種グラフ上の深層学習において強力なツールです。典型的なHGNNは訓練中に反復的なメッセージ伝播を必要とし、大規模な実世界のグラフに対して効率性が制限されます。最近の前計算ベースのHGNNは、一回限りのメッセージ伝播を使用して異種グラフを規則的なテンソルに変換することで、効率的なミニバッチ訓練を可能にしています。既存の前計算ベースのHGNNは、情報損失の許容度と効率性の違いにより、主に2つのスタイルに分類されます。私たちは、これらのスタイルの長所を組み合わせたハイブリッド前計算ベースのHGNNであるランダム射影異種グラフニューラルネットワーク(Random Projection Heterogeneous Graph Neural Network: RpHGNN)を提案します。効率性を達成するために、RpHGNNの主要フレームワークは伝播-更新反復から構成されており、ここで複雑さが線形的にしか増加しないようにするためのランダム射影圧縮ステップを導入しています。情報損失を低減するために、偶奇伝播スキームを持つ関係別近傍収集コンポーネントを導入しており、これは近傍からの情報をより細かい粒度で収集することを目指しています。実験結果は、私たちの手法が7つの小規模および大規模ベンチマークデータセットで最先端の結果を達成していることを示しており、最も効果的な基準モデルよりも230%高速であることも示しています。驚くべきことに、私たちの手法は前処理ベースの基準モデルだけでなく、エンドツーエンド手法も上回る性能を発揮しました。

ランダム投影を用いた効率的な異種グラフ学習 | 最新論文 | HyperAI超神経