HyperAIHyperAI

Command Palette

Search for a command to run...

SlotGAT : Passage de messages basé sur des slots pour les réseaux neuronaux graphiques hétérogènes

Ziang Zhou; Jieming Shi; Renchi Yang; Yuanhang Zou; Qing Li

Résumé

Les graphes hétérogènes sont omniprésents pour modéliser des données complexes. Il existe un besoin urgent de disposer de réseaux neuronaux puissants pour les graphes hétérogènes afin de soutenir efficacement des applications importantes. Nous avons identifié un problème potentiel de mélange sémantique dans les processus actuels de passage de messages, où les représentations des voisins d'un nœud vvv sont forcées à être transformées dans l'espace de caractéristiques de vvv pour l'agrégation, bien que ces voisins soient de types différents. Autrement dit, les sémantiques des différents types de nœuds sont entremêlées dans la représentation du nœud vvv. Pour résoudre ce problème, nous proposons SlotGAT avec des processus distincts de passage de messages dans des emplacements (slots), un pour chaque type de nœud, afin de maintenir les représentations dans leurs propres espaces de caractéristiques par type de nœud. De plus, dans une couche de passage de messages basée sur des emplacements, nous concevons un mécanisme d'attention pour une agrégation efficace des messages par emplacement. En outre, nous développons une technique d'attention par emplacement après la dernière couche de SlotGAT, pour apprendre l'importance des différents emplacements dans les tâches en aval. Notre analyse indique que les emplacements dans SlotGAT peuvent préserver différentes sémantiques dans divers espaces de caractéristiques. La supériorité de SlotGAT est évaluée en comparaison avec 13 méthodes baselines sur 6 jeux de données pour la classification des nœuds et la prédiction des liens. Notre code est disponible à l'adresse suivante : https://github.com/scottjiao/SlotGAT_ICML23/.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp