HyperAIHyperAI
il y a 15 jours

GraphMix : Amélioration de l'entraînement des GNNs pour l'apprentissage semi-supervisé

Vikas Verma, Meng Qu, Kenji Kawaguchi, Alex Lamb, Yoshua Bengio, Juho Kannala, Jian Tang
GraphMix : Amélioration de l'entraînement des GNNs pour l'apprentissage semi-supervisé
Résumé

Nous présentons GraphMix, une méthode de régularisation pour la classification d'objets semi-supervisée basée sur les réseaux de graphes, dans laquelle nous proposons d'entraîner un réseau entièrement connecté en parallèle avec le réseau neuronal de graphe via un partage de paramètres et une régularisation fondée sur l'interpolation. En outre, nous fournissons une analyse théorique démontrant comment GraphMix améliore les bornes de généralisation du réseau neuronal de graphe sous-jacent, sans faire aucune hypothèse sur la couche d'agrégation ni sur la profondeur du réseau. Nous validons expérimentalement cette analyse en appliquant GraphMix à diverses architectures, telles que les réseaux de convolution de graphe (Graph Convolutional Networks), les réseaux d'attention de graphe (Graph Attention Networks) et Graph-U-Net. Malgré sa simplicité, nous montrons que GraphMix permet d'améliorer de manière cohérente les performances ou de les rapprocher étroitement des meilleures performances actuelles, même avec des architectures plus simples comme les réseaux de convolution de graphe, sur trois benchmarks de graphes établis : les jeux de données de réseaux de citations Cora, Citeseer et Pubmed, ainsi que sur trois nouveaux jeux de données récemment proposés : Cora-Full, Co-author-CS et Co-author-Physics.

GraphMix : Amélioration de l'entraînement des GNNs pour l'apprentissage semi-supervisé | Articles de recherche récents | HyperAI