HyperAIHyperAI
il y a 16 jours

hpGAT : Réseau d'attention sur graphe informé de la proximité d'ordre supérieur

{Pin-Yu Chen, Zhining Liu, Chengyun Song, Weiyi Liu, Chenyi Zhuang}
Résumé

Les réseaux de neurones graphes (GNNs) ont récemment réalisé des avancées remarquables dans le cadre de l’apprentissage sur des données structurées en graphe. Toutefois, la plupart des GNNs existants limitent le champ réceptif de chaque nœud, à chaque couche, à ses voisins immédiats (à un saut), ce qui ignore le fait que, dans les réseaux neuronaux d’avant-garde, un champ réceptif étendu s’est avéré être un facteur critique. Dans cet article, nous proposons une nouvelle approche permettant de définir de manière adaptée un champ réceptif variable pour les GNNs, en intégrant des informations de proximité d’ordre supérieur extraites de la structure topologique hiérarchique du graphe d’entrée. Plus précisément, des groupes multiscales obtenus par factorisation matricielle semi-nonnégative hiérarchique entraînable sont utilisés pour ajuster les poids lors de l’agrégation des voisins à un saut. Intégré au mécanisme d’attention graphique appliqué aux attributs des nœuds voisins, le processus d’agrégation, doté de paramètres apprenables, est optimisé de manière end-to-end. Des expériences étendues montrent que la méthode proposée (hpGAT) surpasse les approches de pointe et met en évidence l’importance de tirer parti de la proximité d’ordre supérieur pour traiter efficacement les informations bruitées au sein du voisinage local.

hpGAT : Réseau d'attention sur graphe informé de la proximité d'ordre supérieur | Articles de recherche récents | HyperAI