HyperAIHyperAI

Command Palette

Search for a command to run...

曲率を用いたグラフ上のオーバー・スクァッシングおよびボトルネックの理解

Jake Topping Francesco Di Giovanni Benjamin Paul Chamberlain Xiaowen Dong Michael M. Bronstein

概要

多数のグラフニューラルネットワーク(GNN)は、メッセージパッシングという枠組みを採用しており、ノード特徴量が入力グラフ上で伝播される。近年の研究では、長距離相互作用に依存するタスクにおいて、メッセージパッシングの効率を制限する要因として、遠方ノードからの情報伝達における歪み(distortion)が指摘されている。この現象は「オーバー・スクワイジング(over-squashing)」と呼ばれており、kkk-ホップ近傍の数がkkkとともに急速に増加するグラフのボトルネックに起因するものと、ヒューリスティックに説明されてきた。本研究では、GNNにおけるオーバー・スクワイジング現象を明確に定式化し、グラフ内のボトルネックがどのようにこの現象を引き起こすかを分析する。そのために、新たなエッジベースの組合せ的曲率を導入し、負の曲率を持つエッジがオーバー・スクワイジング問題の原因であることを証明する。さらに、この曲率に基づくグラフ再接続(rewiring)手法を提案し、実験的にその有効性を検証した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
曲率を用いたグラフ上のオーバー・スクァッシングおよびボトルネックの理解 | 記事 | HyperAI超神経