2ヶ月前
GaAN: 大規模および空間時間グラフの学習に向けたゲーテッドアテンションネットワーク
Jiani Zhang; Xingjian Shi; Junyuan Xie; Hao Ma; Irwin King; Dit-Yan Yeung

要約
私たちは、グラフ上の学習のために新しいネットワークアーキテクチャであるゲーテッド・アテンション・ネットワーク(GaAN)を提案します。従来のマルチヘッド・アテンション機構がすべてのアテンションヘッドを等しく消費するのに対し、GaANは各アテンションヘッドの重要性を制御するために畳み込みサブネットワークを使用します。私たちは、GaANが帰納的なノード分類問題において有効であることを示しています。さらに、GaANを構成要素として使用して、交通速度予測問題を解決するためのグラフ・ゲーテッド・リカレント・ユニット(GGRU)を構築しました。3つの実世界データセットを用いた広範な実験により、私たちのGaANフレームワークが両タスクにおいて最先端の結果を達成していることが確認されました。