15日前
シーフニューラルネットワークと接続ラプラシアン
Federico Barbero, Cristian Bodnar, Haitz Sáez de Ocáriz Borde, Michael Bronstein, Petar Veličković, Pietro Liò

要約
シーフニューラルネットワーク(SNN)は、グラフニューラルネットワーク(GNN)の一種であり、グラフのノードおよびエッジ上にベクトル空間を割り当て、それらの空間間の線形写像を備えた「シーフ(sheaf)」という構造を対象として処理する。SNNは、異質性(heterophily)や過剰平滑化(over-smoothing)といった問題に対処する上で、有用な理論的性質を有することが示されている。しかし、このモデルに内在する課題の一つとして、タスクに適した良好なシーフを設計することの難しさが挙げられる。これまでの研究では、二つの対照的なアプローチが提案されている:ドメイン知識に基づいて手動でシーフを構築する方法と、勾配ベースの手法を用いてシーフをエンドツーエンドで学習する方法である。しかしながら、ドメイン知識はしばしば不十分であり、シーフの学習は過剰適合(overfitting)や著しい計算負荷を引き起こす可能性がある。本研究では、リーマン幾何学の知見に着想を得た、新たなシーフの計算手法を提案する。具体的には、多様体仮説(manifold assumption)を活用し、多様体構造とグラフ構造を意識した直交写像を計算することで、近接するデータポイントの接空間を最適に整合させる。本手法は、従来のSNNモデルと比較して、計算負荷を抑えつつも優れた性能を達成することを示した。本研究は、代数的位相幾何学と微分幾何学の間の興味深い接点を提示するものであり、今後のこの分野における研究の発展を期待する。