Command Palette
Search for a command to run...
Apprentissage hiérarchique de représentations dans les réseaux neuronaux graphes avec pooling de décimation de nœuds
Apprentissage hiérarchique de représentations dans les réseaux neuronaux graphes avec pooling de décimation de nœuds
Filippo Maria Bianchi Daniele Grattarola Lorenzo Livi Cesare Alippi
Résumé
Dans les réseaux de neurones sur graphes (GNN), les opérateurs de pooling calculent des résumés locaux des graphes d’entrée afin de capturer leurs propriétés globales, et ils constituent une composante fondamentale pour construire des GNN profonds capables d’apprendre des représentations hiérarchiques. Dans ce travail, nous proposons Node Decimation Pooling (NDP), un opérateur de pooling pour les GNN qui génère des graphes plus grossiers tout en préservant la topologie globale du graphe original. Pendant l’entraînement, le GNN apprend de nouvelles représentations de nœuds et les ajuste à une pyramide de graphes grossis, calculée de manière hors ligne durant une phase de prétraitement. NDP se compose de trois étapes. Premièrement, une procédure de décimation de nœuds sélectionne les nœuds appartenant à l’un des côtés de la partition identifiée par un algorithme spectral approximant la solution du problème \maxcut{}. Ensuite, les nœuds sélectionnés sont reliés par réduction de Kron afin de former le graphe grossi. Enfin, comme le graphe résultant est très denses, nous appliquons une procédure de densification qui élimine des arêtes de la matrice d’adjacence du graphe grossi, afin de réduire le coût computationnel dans le GNN. Notamment, nous montrons qu’il est possible d’éliminer un grand nombre d’arêtes sans altérer significativement la structure du graphe. Les résultats expérimentaux démontrent que NDP est plus efficace que les opérateurs de pooling de pointe sur des graphes, tout en atteignant des performances compétitives sur une large variété de tâches de classification de graphes.