17日前
UniGAP:ノード分類タスクにおける過剰なスムージングを軽減するためのユニバーサルかつ適応的なグラフアップサンプリング手法
Xiaotang Wang, Yun Zhu, Haizhou Shi, Yongchao Liu, Chuntao Hong

要約
グラフ領域において、メッセージパッシングニューラルネットワーク(MPNN)やグラフトランスフォーマーに基づく深層グラフネットワークは、ノード特徴量の過度なスムージングを引き起こすことが多く、表現力に制限を受けることがある。この問題を軽減するために、ノードやエッジの操作を伴う多数のアップサンプリング手法が提案されてきた。しかし、これらの手法はしばしば膨大な手作業を要し、最適な性能を発揮せず、普遍的な統合戦略も欠如している。本研究では、グラフデータ向けの普遍的かつ適応的なアップサンプリング手法「UniGAP」を提案する。UniGAPは、現在の多数の手法を変種として含む普遍的なフレームワークを提供する一方で、既存のGNN(グラフニューラルネットワーク)とシームレスかつ適応的に統合可能なプラグイン型コンポーネントとしても機能し、性能向上と過度なスムージングの緩和を実現する。広範な実験を通じて、UniGAPはさまざまなデータセットおよび評価指標において、ヒューリスティックなデータ拡張手法を大幅に上回る性能を示した。さらに、UniGAPを用いた際のグラフ構造の進化を分析し、過度なスムージングが発生する主なボトルネックを同定。これにより、UniGAPがどのようにこの課題に対処しているかに関する洞察を提供した。最後に、UniGAPを大規模言語モデル(LLM)と組み合わせることで、下流タスクの性能をさらに向上させる可能性を示した。本研究のコードは以下のURLで公開されている:https://github.com/wangxiaotang0906/UniGAP