HyperAIHyperAI
il y a 15 jours

DeltaGNN : Réseau de neurones graphiques avec contrôle du flux d'information

Kevin Mancini, Islem Rekik
DeltaGNN : Réseau de neurones graphiques avec contrôle du flux d'information
Résumé

Les réseaux de neurones graphiques (GNNs) sont des modèles d’apprentissage profond populaires conçus pour traiter des données structurées en graphe grâce à des agrégations récursives des voisins au cours du processus d’échange de messages. Lorsqu’ils sont appliqués à la classification de nœuds semi-supervisée, cet échange de messages permet aux GNNs de capturer les interactions spatiales à courte portée, mais entraîne également des problèmes de sur-lissage (over-smoothing) et de sur-écrasement (over-squashing). Ces défis limitent l’expressivité du modèle et empêchent l’utilisation de modèles plus profonds capables de capturer les interactions à longue portée (LRIs) au sein du graphe. Les solutions existantes pour détecter les LRIs sont soit trop coûteuses en temps de calcul pour traiter de grands graphes en raison d’une complexité temporelle élevée, soit incapables de généraliser sur des structures de graphes diverses. Pour remédier à ces limitations, nous proposons un mécanisme appelé contrôle du flux d’information, qui exploite une nouvelle mesure de connectivité, nommée score de flux d’information, afin de combattre le sur-lissage et le sur-écrasement avec un surcoût computationnel linéaire, soutenu par des preuves théoriques. Enfin, pour démontrer l’efficacité de notre approche, nous avons conçu DeltaGNN, la première méthode à la fois évolutive et généralisable pour détecter à la fois les interactions à courte et à longue portée. Nous évaluons notre modèle sur 10 jeux de données réels, incluant des graphes de tailles, topologies, densités et rapports d’homophilie variés, obtenant des performances supérieures tout en conservant une complexité computationnelle limitée. L’implémentation des méthodes proposées est disponible publiquement à l’adresse suivante : https://github.com/basiralab/DeltaGNN.

DeltaGNN : Réseau de neurones graphiques avec contrôle du flux d'information | Articles de recherche récents | HyperAI