セルアテンションネットワーク

グラフアテンションネットワーク（GAT）は導入以来、グラフ表現学習タスクにおいて優れた成果を上げてきた。しかし、これらのネットワークはノード間のペアワイズな関係性のみを考慮しており、多くの現実世界のデータセットに存在する高次元の相互作用を十分に活用できていない。本論文では、グラフの頂点上に定義されたデータを処理するニューラルアーキテクチャとして、セルアテンションネットワーク（Cell Attention Networks, CANs）を提案する。CANsは、高次元相互作用を捉えるために導入されたセル複体（cell complex）の1-スケルトンとしてグラフを表現する。特に、セル複体に符号化された下位近傍（lower neighborhood）と上位近傍（upper neighborhood）を活用し、二つの独立したマスク付き自己アテンション機構を設計することで、従来のグラフアテンション戦略を一般化している。CANsのアプローチは階層的であり、以下のステップを含む：i) ノード特徴量からエッジ特徴量を学習する「リフティング（lifting）アルゴリズム」；ii) 下位および上位近傍にわたるエッジ特徴量の最適な組み合わせを探索するセルアテンション機構；iii) 階層的な「エッジプーリング（edge pooling）機構」により、コンパクトかつ意味のある特徴量の集合を抽出する。実験結果から、CANは計算複雑度が低く、グラフベースの学習タスクにおいて最先端の手法と比較しても優れた性能を発揮することが示された。