Pré-entraînement et apprentissage : préserver les informations globales pour les réseaux neuronaux graphes

Les réseaux de neurones graphiques (GNN) ont démontré une grande efficacité dans l’apprentissage sur les graphes attribués. Toutefois, il reste un défi pour les GNN d’exploiter efficacement les informations éloignées du nœud source. En outre, les GNN classiques nécessitent des attributs graphiques en entrée, ce qui les rend inapplicables aux graphes simples (sans attributs). Dans cet article, nous proposons de nouveaux modèles nommés G-GNN (Global information for GNNs) afin de surmonter ces limitations. Premièrement, les caractéristiques structurelles et attributaires globales de chaque nœud sont extraites par pré-entraînement non supervisé, permettant ainsi de préserver les informations globales associées à chaque nœud. Ensuite, en combinant ces caractéristiques globales avec les attributs bruts du réseau, nous proposons un cadre parallèle de GNN permettant d’apprendre différentes facettes à partir de ces informations. Les méthodes d’apprentissage proposées peuvent être appliquées aussi bien aux graphes simples qu’aux graphes attribués. Des expériences étendues montrent que les G-GNN surpassent d’autres modèles de pointe sur trois graphes standards d’évaluation. En particulier, nos méthodes établissent de nouveaux records sur les benchmarks Cora (84,31 %) et Pubmed (80,95 %) dans le cadre d’apprentissage sur des graphes attribués.