HyperAIHyperAI
il y a 2 mois

SlotGAT : Passage de messages basé sur des slots pour les réseaux neuronaux graphiques hétérogènes

Ziang Zhou; Jieming Shi; Renchi Yang; Yuanhang Zou; Qing Li
SlotGAT : Passage de messages basé sur des slots pour les réseaux neuronaux graphiques hétérogènes
Résumé

Les graphes hétérogènes sont omniprésents pour modéliser des données complexes. Il existe un besoin urgent de disposer de réseaux neuronaux puissants pour les graphes hétérogènes afin de soutenir efficacement des applications importantes. Nous avons identifié un problème potentiel de mélange sémantique dans les processus actuels de passage de messages, où les représentations des voisins d'un nœud $v$ sont forcées à être transformées dans l'espace de caractéristiques de $v$ pour l'agrégation, bien que ces voisins soient de types différents. Autrement dit, les sémantiques des différents types de nœuds sont entremêlées dans la représentation du nœud $v$. Pour résoudre ce problème, nous proposons SlotGAT avec des processus distincts de passage de messages dans des emplacements (slots), un pour chaque type de nœud, afin de maintenir les représentations dans leurs propres espaces de caractéristiques par type de nœud. De plus, dans une couche de passage de messages basée sur des emplacements, nous concevons un mécanisme d'attention pour une agrégation efficace des messages par emplacement. En outre, nous développons une technique d'attention par emplacement après la dernière couche de SlotGAT, pour apprendre l'importance des différents emplacements dans les tâches en aval. Notre analyse indique que les emplacements dans SlotGAT peuvent préserver différentes sémantiques dans divers espaces de caractéristiques. La supériorité de SlotGAT est évaluée en comparaison avec 13 méthodes baselines sur 6 jeux de données pour la classification des nœuds et la prédiction des liens. Notre code est disponible à l'adresse suivante : https://github.com/scottjiao/SlotGAT_ICML23/.