Une Nouvelle Perspective sur les Effets du Spectre dans les Réseaux Neuronaux Graphiques

De nombreuses améliorations des GNN (Graph Neural Networks) peuvent être considérées comme des opérations sur le spectre de la matrice sous-jacente du graphe, ce qui nous motive à étudier directement les caractéristiques de ce spectre et leurs effets sur les performances des GNN. En généralisant la plupart des architectures existantes des GNN, nous montrons que le problème de corrélation causé par le spectre « unsmooth » devient un obstacle pour l'utilisation de filtres graphiques plus puissants ainsi que pour le développement d'architectures plus profondes, ce qui limite donc les performances des GNN. Inspirés par ces observations, nous proposons une architecture sans corrélation qui élimine naturellement le problème de corrélation entre différents canaux, rendant possible l'utilisation de filtres plus sophistiqués au sein de chaque canal. L'architecture finale sans corrélation, dotée de filtres plus puissants, améliore constamment les performances d'apprentissage des représentations graphiques. Le code est disponible à l'adresse suivante : https://github.com/qslim/gnn-spectrum.