HyperAIHyperAI
il y a 2 mois

Réseaux Neuraux Graphiques de Clenshaw

Yuhe Guo; Zhewei Wei
Réseaux Neuraux Graphiques de Clenshaw
Résumé

Les réseaux de neurones convolutionnels sur graphes (GCNs), qui utilisent un paradigme de passage de messages avec des couches de convolution empilées, sont des méthodes fondamentales pour l'apprentissage de représentations de graphes. Les modèles GCN récents font usage de diverses techniques de connexions résiduelles pour atténuer les problèmes de dégradation du modèle, tels que le lissage excessif et la disparition du gradient. Cependant, les techniques existantes de connexions résiduelles ne parviennent pas à exploiter pleinement la structure sous-jacente du graphe dans le domaine spectral, ce qui est crucial pour obtenir des résultats satisfaisants sur les graphes hétérophiles. Dans cet article, nous présentons ClenshawGCN, un modèle de GNN qui utilise l'algorithme de sommation de Clenshaw pour améliorer l'expressivité du modèle GCN. ClenshawGCN équipe le modèle GCN standard avec deux modules résiduels simples : la connexion résiduelle initiale adaptative et la connexion résiduelle d'ordre deux négative. Nous montrons que l'ajout de ces deux modules permet à ClenshawGCN de simuler implicitement un filtre polynomial sous la base de Chebyshev, lui conférant au moins autant de puissance expressive que les GNN spectraux polynomiaux. De plus, nous menons des expériences exhaustives pour démontrer la supériorité de notre modèle par rapport aux modèles GNN spatiaux et spectraux.

Réseaux Neuraux Graphiques de Clenshaw | Articles de recherche récents | HyperAI