HyperAIHyperAI

Command Palette

Search for a command to run...

hpGAT:高次近接性を考慮したグラフアテンションネットワーク

Pin-Yu Chen Zhining Liu Chengyun Song Weiyi Liu Chenyi Zhuang

概要

グラフニューラルネットワーク(GNN)は、グラフ構造データを用いた学習という枠組みにおいて、近年顕著な進展を遂げている。しかし、現存する大多数のGNNは、各層におけるノードの受容野(receptive field)をその接続された隣接ノード(1ホップ近傍)に限定している。これは、最新のニューラルネットワークにおいて、広い受容野が重要な要因であることが実証されているという事実を無視している。本論文では、入力グラフの階層的トポロジカル構造から抽出された高次の近接性(high-order proximity)情報を活用することで、GNNに対して適切に可変的な受容野を定義する新たなアプローチを提案する。具体的には、学習可能な階層的準非負行列因子分解(hierarchical semi-nonnegative matrix factorization)により得られるマルチスケールなグループを用いて、1ホップ近傍ノードの集約時に重みを調整する。さらに、隣接ノードの属性に対するグラフアテンション機構と統合することで、集約プロセス内の学習可能なパラメータをエンドツーエンドの形で最適化する。広範な実験結果から、提案手法(hpGAT)が最先端手法を上回ることを示し、局所近傍のノイズ情報を扱う際に高次の近接性を活用することが極めて重要であることを実証した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
hpGAT:高次近接性を考慮したグラフアテンションネットワーク | 記事 | HyperAI超神経