HyperAIHyperAI

Command Palette

Search for a command to run...

FDGATII:初期残差およびアイデンティティマッピングを備えた高速動的グラフアテンション

Gayan K. Kulatilleke Marius Portmann Ryan Ko Shekhar S. Chandra

概要

グラフニューラルネットワーク(GNN)は多様な分野において注目を集めているが、グラフ構造の入力は依然として大きな課題を抱えており、具体的には(a)過剰なスムージング、(b)ノイズを含む近傍ノード(異質性:heterophily)、および(c)「停止状態問題(suspended animation problem)」が挙げられる。これらの問題を同時に解決するために、我々は注目機構(attention mechanism)が選択的情報を集中できるという特性を活用し、さらに2つの特徴保持機構を補完的に導入した新しいグラフニューラルネットワーク「FDGATII」を提案する。FDGATIIは、より表現力の高い動的自己注意(dynamic self-attention)と初期残差(Initial Residuals)および恒等写像(Identity Mapping)を統合することで、異質性を持つデータセットにおける近傍ノード由来のノイズを効果的に扱う。また、スパースな動的注意機構を採用しているため、構造的に並列処理が可能であり、計算効率も高いという特徴を持つ。このため、理論的に任意の規模のグラフに容易にスケーラブルである。本手法は7つのデータセットを用いて広範に評価された結果、完全教師ありタスクにおいてGATやGCNを基盤とする従来手法を上回る精度と性能を実現した。特にChameleonおよびCornellデータセットでは、ドメイン特有のグラフ前処理を一切行わずに最先端の結果を達成し、本手法の汎用性と公平性を実証した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています