要約
グラフ上の機械学習における主流の枠組みは、メッセージパッシング型グラフニューラルネットワーク（MP-GNN）であり、ノードの表現はその局所的な近傍における情報の集約によって更新される。近年、MP-GNNの既知の限界を克服するため、Transformerアーキテクチャをグラフに適応させる試みが増加している。グラフ用Transformerの設計において課題となるのは、任意のグラフ構造をアーキテクチャに統合することである。本研究では、この課題に対処するため、Graph Diffuser（GD）を提案する。GDは、グラフ内の遠方ノード間の構造的および位置的関係を学習し、それをTransformerのアテンションおよびノード表現の更新に活用する。既存のGNNおよびグラフTransformerが長距離相互作用を捉えにくく、一方でGraph Diffuserがそのような相互作用を効果的に捉えられることを実証するとともに、直感的な可視化が可能であることを示す。8つのベンチマークにおける実験結果から、Graph Diffuserが多様な分野において最先端のモデルを上回る高い性能を示すことが明らかになった。