要約
グラフ表現学習（GRL）手法、例えばグラフニューラルネットワークやグラフトランスフォーマーモデルは、主にノード分類とリンク予測タスクに焦点を当てて、グラフ構造データの分析に成功裏に利用されてきました。しかし、既存の研究では大域的な接続性やノードの役割が無視され、局所的な接続性のみが考慮されることが多いです。本論文では、局所構造情報と大域構造情報を効果的に固定長ベクトル表現に統合するための統一型グラフトランスフォーマーネットワーク（UGT）を提案します。まず、UGTは各ノードの$k$-ホップ近傍の特徴を集約することにより、局所部分構造を特定し、局所構造を学習します。次に、構造的類似性を持つ遠隔ノード間をつなぐ仮想エッジを構築し、長距離依存関係を捉えます。さらに、UGTは自己注意機構を通じてノードペア間の構造的距離と$p$-ステップ遷移確率を符号化し、統一表現を学習します。また、我々は局所および大域構造特徴を融合するために遷移確率を効果的に学習する自己教師あり学習タスクも提案しています。このタスクで学習した特徴は他の下流タスクへ転用可能です。実世界ベンチマークデータセットにおける様々な下流タスクでの実験結果は、UGTが最先端モデルからなる基準手法よりも著しく優れていることを示しました。さらに、UGTは非同型グラフペアを見分ける能力において3次ワイスフェイラー・レハマン同型テスト（3d-WL）の表現力に匹敵することが確認されました。ソースコードは https://github.com/NSLab-CUK/Unified-Graph-Transformer で公開されています。