HyperAIHyperAI
il y a 15 jours

FDGATII : Attente dynamique sur graphe rapide avec cartographie résiduelle initiale et identité

Gayan K. Kulatilleke, Marius Portmann, Ryan Ko, Shekhar S. Chandra
FDGATII : Attente dynamique sur graphe rapide avec cartographie résiduelle initiale et identité
Résumé

Bien que les réseaux de neurones graphiques aient connu une grande popularité dans de nombreux domaines, les entrées structurées en graphes restent un défi majeur en raison de (a) l’over-smoothing, (b) des voisins bruités (hétérophilie) et (c) du problème de « suspension animée ». Pour relever simultanément ces trois difficultés, nous proposons un nouveau réseau de neurones graphiques, FDGATII, inspiré de la capacité des mécanismes d’attention à se concentrer sur des informations sélectionnées, complétée par deux mécanismes préservant les caractéristiques. FDGATII combine des résidus initiaux et une application identité avec une attention auto-ajustée dynamique plus expressive, afin de traiter efficacement le bruit provenant des voisinages présents dans les jeux de données hétérophiles. Grâce à une attention dynamique creuse, FDGATII est intrinsèquement parallélisable dans sa conception, tout en étant opérationnellement efficace ; il est donc théoriquement capable de s’échelonner facilement à des graphes de taille arbitraire. Notre approche a été rigoureusement évaluée sur 7 jeux de données. Nous démontrons que FDGATII surpasser les modèles basés sur GAT et GCN en termes de précision et de performance sur des tâches entièrement supervisées, obtenant des résultats de pointe sur les jeux de données Chameleon et Cornell sans aucune prétraitement graphique spécifique au domaine, tout en illustrant sa polyvalence et son équité.

FDGATII : Attente dynamique sur graphe rapide avec cartographie résiduelle initiale et identité | Articles de recherche récents | HyperAI