11日前
学習可能な構造的および位置的表現を備えたグラフニューラルネットワーク
Vijay Prakash Dwivedi, Anh Tuan Luu, Thomas Laurent, Yoshua Bengio, Xavier Bresson

要約
グラフニューラルネットワーク(GNN)は、グラフデータに対する標準的な学習アーキテクチャとして広く採用されている。GNNは、量子化学からレコメンデーションシステム、知識グラフ、自然言語処理に至るまで、多岐にわたる分野に応用されている。任意のグラフにおける主要な課題の一つは、ノードに標準的な位置情報が存在しないため、同型のノードやグラフの対称性を区別する能力が低下することである。この問題に対処するためのアプローチとして、ノードの位置符号化(Positional Encoding, PE)を導入し、Transformerと同様に入力層に組み込む方法が提案されている。代表的なグラフ用PEとして、ラプラシアン固有ベクトルが挙げられる。本研究では、構造的表現と位置的表現を分離することで、ネットワークがこれらの2つの重要な性質をより容易に学習できるようにするアプローチを提案する。これにより、汎用的な新規アーキテクチャであるLSPE(Learnable Structural and Positional Encodings)を導入した。本研究では、スパース型および完全接続型(Transformer型)のGNNを複数検証し、分子データセットにおいて、学習可能なPEを導入した場合、両クラスのGNNで性能が1.79%から最大64.14%まで向上することを確認した。