SignGT：グラフ表現学習を 위한署名付きアテンションベースのグラフトランスフォーマー

近年登場したグラフTransformerは、グラフニューラルネットワーク（GNN）に比べてグラフ表現学習において驚異的な性能を達成している。本研究では、グラフTransformerのコアモジュールである自己注意機構（self-attention mechanism）を、完全連結グラフ上で二段階の集約操作として捉える。自己注意機構は正の注意値を生成する性質を持つため、すべてのノードに対して滑らかな操作を施すことに相当し、低周波数情報の保持が可能となる。しかし、異種性（heterophily）を持つグラフなど、ノード間の複雑な関係を学習する際には、高周波数情報が極めて重要であるため、低周波数情報のみを捉えるのは効率的ではない。こうした課題に対処するため、本研究では、グラフからさまざまな周波数情報を適応的に捉えることを目的として、符号付き注意機構に基づくグラフTransformer（Signed Attention-based Graph Transformer, SignGT）を提案する。具体的には、ノードペア間の意味的関連性に基づいて符号付きの注意値を生成する新たな符号付き自己注意機構（SignSA）を設計した。これにより、異なるノードペア間の多様な周波数情報を細かく保持することが可能となる。さらに、局所的なトポロジー情報を保持するため、構造に配慮したフィードフォワードネットワーク（Structure-aware Feed-Forward Network, SFFN）を導入した。これにより、SignGTは長距離依存関係と局所的なトポロジー情報を両方から情報を得て、豊かなノード表現を学習できる。ノードレベルおよびグラフレベルの様々な実験において、SignGTが最先端のグラフTransformerおよび高度なGNNと比較して優れた性能を示した。