HyperAIHyperAI

Command Palette

Search for a command to run...

Exphormer:グラフ向けスパーストランスフォーマー

Hamed Shirzad Ameya Velingker Balaji Venkatachalam Danica J. Sutherland Ali Kemal Sinop

概要

グラフ変換器(Graph Transformers)は、さまざまなグラフ学習および表現学習タスクにおいて有望なアーキテクチャとして注目を集めています。しかし、その成功にもかかわらず、メッセージパッシングネットワークと同等の精度を維持しつつ、大規模なグラフにスケーラブルに拡張することは依然として困難な課題です。本論文では、強力かつスケーラブルなグラフ変換器を構築するためのフレームワーク「Exphormer」を提案します。Exphormerは、仮想グローバルノード(virtual global nodes)と拡張グラフ(expander graphs)の二つのメカニズムに基づくスパースアテンション機構から構成されており、これらのメカニズムの数学的特性(スペクトル拡張性、擬似乱数性、スパース性など)により、グラフサイズに対して計算量が線形に増加するグラフ変換器を実現しつつ、得られる変換器モデルの望ましい理論的性質を証明可能にしています。また、最近提案されたGraphGPSフレームワークにExphormerを組み込むことで、多様なグラフデータセットにおいて競争力のある実験結果が得られ、特に3つのデータセットで最先端の性能を達成しました。さらに、従来のグラフ変換器アーキテクチャよりも大規模なグラフデータセットへのスケーラビリティを示しました。コードは以下のURLから入手可能です:\url{https://github.com/hamed1375/Exphormer}


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています