2ヶ月前
サイクル・メッセージ・パスング・ブロックを用いた空間時間グラフにおけるトポロジカル依存関係の強化
Minho Lee; Yun Young Choi; Sun Woo Park; Seunghwan Lee; Joohwan Ko; Jaeyoung Hong

要約
グラフニューラルネットワーク(GNN)とトランスフォーマーを基にしたモデルは、交通データセットなどのアプリケーションにおいて重要な複雑な空間時間依存関係を捉えるため、空間時間グラフの複雑なベクトル表現の学習にますます採用されるようになっています。既存の多くの手法は、多頭注意機構とメッセージ伝達ニューラルネットワーク(MPNN)を使用して空間と時間の関係を捉えていますが、これらのアプローチは時間と空間の関係を独立して符号化し、グラフの位相特性を限定的な形で反映するに過ぎません。本研究では、Cycle to Mixer (Cy2Mixer) という新しい空間時間GNNを提案します。これは、空間時間グラフの非自明な位相不変量に基づき、ゲート付きマルチレイヤーパーセプトロン(gMLP)を使用したモデルです。Cy2Mixerは3つのブロックから構成されており、それぞれはMLPに基づいています:時間ブロック(時系列特性の捕捉)、メッセージ伝達ブロック(空間情報の包含)、およびサイクルメッセージ伝達ブロック(循環部分グラフを通じて位相情報を豊かにする)。私たちは数学的な証拠によってCy2Mixerの有効性を強調し、サイクルメッセージ伝達ブロックがメッセージ伝達ブロックとは異なる情報を深層学習モデルに提供できることを示しています。さらに、経験的な評価によりCy2Mixerの効果が実証され、さまざまな空間時間ベンチマークデータセットにおいて最先端の性能を発揮することが示されています。ソースコードは \url{https://github.com/leemingo/cy2mixer} で利用可能です。