ConvNets de Graphes Résiduels avec Portes

Les données structurées en graphe, telles que les réseaux sociaux, les réseaux cérébraux fonctionnels, les réseaux de régulation génétique et les réseaux de communication, ont suscité un intérêt croissant pour la généralisation des techniques d'apprentissage profond aux domaines de graphe. Dans cet article, nous nous intéressons à la conception de réseaux neuronaux pour des graphes de longueur variable afin de résoudre des problèmes d'apprentissage tels que la classification de sommets, la classification de graphes, la régression de graphes et les tâches génératives de graphes. La plupart des travaux existants se sont concentrés sur les réseaux neuronaux récurrents (RNN) pour apprendre des représentations significatives des graphes, et plus récemment de nouvelles architectures de réseaux neuronaux convolutifs (ConvNets) ont été introduites. Dans ce travail, nous souhaitons comparer rigoureusement ces deux familles fondamentales d'architectures pour résoudre des tâches d'apprentissage sur les graphes. Nous passons en revue les architectures existantes de RNN et ConvNet pour les graphes, et proposons une extension naturelle du LSTM et du ConvNet aux graphes de taille arbitraire. Ensuite, nous concevons une série d'expériences contrôlées analytiquement sur deux problèmes fondamentaux de graphe, à savoir le couplage de sous-graphes et le clustering de graphes, pour tester différentes architectures. Les résultats numériques montrent que les ConvNets proposés pour les graphes sont 3-17% plus précis et 1.5-4 fois plus rapides que les RNN pour les graphes. Les ConvNets pour les graphes sont également 36% plus précis que les techniques variationnelles (non-apprenantes). Enfin, l'architecture de ConvNet pour graphe la plus efficace utilise des arêtes avec portes (gated edges) et la résiduité. La résiduité joue un rôle essentiel dans l'apprentissage d'architectures multicouches car elle fournit une amélioration des performances de 10%.