HyperAIHyperAI

Command Palette

Search for a command to run...

拡散グラフアテンション

Daniel Glickman Eran Yahav

概要

グラフ上の機械学習における主流の枠組みは、メッセージパッシング型グラフニューラルネットワーク(MP-GNN)であり、ノードの表現はその局所的な近傍における情報の集約によって更新される。近年、MP-GNNの既知の限界を克服するため、Transformerアーキテクチャをグラフに適応させる試みが増加している。グラフ用Transformerの設計において課題となるのは、任意のグラフ構造をアーキテクチャに統合することである。本研究では、この課題に対処するため、Graph Diffuser(GD)を提案する。GDは、グラフ内の遠方ノード間の構造的および位置的関係を学習し、それをTransformerのアテンションおよびノード表現の更新に活用する。既存のGNNおよびグラフTransformerが長距離相互作用を捉えにくく、一方でGraph Diffuserがそのような相互作用を効果的に捉えられることを実証するとともに、直感的な可視化が可能であることを示す。8つのベンチマークにおける実験結果から、Graph Diffuserが多様な分野において最先端のモデルを上回る高い性能を示すことが明らかになった。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています