GraphSAINT : Méthode d'Apprentissage Inductif Basée sur l'Échantillonnage de Graphes

Les Réseaux de Convolution Graphique (Graph Convolutional Networks, GCNs) sont des modèles puissants pour l'apprentissage de représentations de graphes attribués. Pour échelonner les GCNs à de grands graphes, les méthodes d'avant-garde utilisent diverses techniques d'échantillonnage de couches afin d'atténuer le problème de l'« explosion des voisins » lors de la formation par mini-lots. Nous proposons GraphSAINT, une méthode d'apprentissage inductif basée sur l'échantillonnage de graphes qui améliore l'efficacité et la précision de la formation d'une manière fondamentalement différente. En changeant de perspective, GraphSAINT construit les mini-lots en échantillonnant le graphe d'entraînement, plutôt que les nœuds ou les arêtes à travers les couches des GCNs. À chaque itération, un GCN complet est construit à partir du sous-graphe correctement échantillonné. Ainsi, nous assurons un nombre fixe de nœuds bien connectés dans toutes les couches. Nous proposons également une technique de normalisation pour éliminer le biais et des algorithmes d'échantillonnage pour réduire la variance. Importamment, nous pouvons découpler l'échantillonnage de la propagation avant et arrière, et étendre GraphSAINT avec de nombreuses variantes architecturales (par exemple, attention graphique, connexion sautée). GraphSAINT montre des performances supérieures tant en termes de précision que de temps d'entraînement sur cinq grands graphes, et atteint des scores F1 record pour PPI (0,995) et Reddit (0,970).