2ヶ月前

PANDA: リワイヤリングを超えた幅認識拡張メッセージ伝播

Jeongwhan Choi; Sumin Park; Hyowon Wi; Sung-Bae Cho; Noseong Park
PANDA: リワイヤリングを超えた幅認識拡張メッセージ伝播
要約

グラフニューラルネットワーク(GNN)分野における最近の研究では、「オーバースクワッシング」という重要な問題が特定されました。これは、グラフ構造におけるボトルネック現象から生じ、長距離情報の伝播を阻害するものです。これまでの研究では、空間的またはスペクトル的な特性を最適化して信号伝播を促進することを目指すさまざまなグラフ再配線概念が提案されてきました。しかし、これらのアプローチは必ずしも元のグラフトポロジーを悪化させ、情報流の歪みにつながる可能性があります。この問題に対処するために、我々は拡張幅意識型(PANDA)メッセージ伝達という新しいメッセージ伝達パラダイムを導入します。この方法では、高中心性を持つノードを選択的に幅方向に拡張することで、遠隔ノードからの増大する信号流入をカプセル化します。実験結果は、当社の手法が既存の再配線手法よりも優れていることを示しており、ノードの隠れ状態を選択的に拡張することが、オーバースクワッシング対策としてグラフ再配線の有力な代替手段であることを示唆しています。

PANDA: リワイヤリングを超えた幅認識拡張メッセージ伝播 | 最新論文 | HyperAI超神経