Formation Adversariale sur les Graphes : Régularisation Dynamique Basée sur la Structure des Graphes

Les efforts récents montrent que les réseaux de neurones sont vulnérables à de petites mais intentionnelles perturbations des caractéristiques d'entrée dans les tâches de classification visuelle. En raison de la prise en compte supplémentaire des connexions entre les exemples (par exemple, les articles liés par des citations ont tendance à appartenir à la même classe), les réseaux de neurones sur graphes pourraient être plus sensibles aux perturbations, car celles-ci provenant d'exemples connectés aggravent l'impact sur un exemple cible. L'entraînement adversarial (AT), une technique de régularisation dynamique, peut résister aux perturbations les plus défavorables des caractéristiques d'entrée et constitue une option prometteuse pour améliorer la robustesse et la généralisation du modèle. Cependant, les méthodes AT existantes se concentrent sur la classification standard, ce qui rend leur efficacité moindre lors de l'entraînement de modèles sur des graphes, car elles ne modélisent pas l'impact des exemples connectés.Dans cette étude, nous explorons l'entraînement adversarial sur les graphes, visant à améliorer la robustesse et la généralisation des modèles appris sur ces structures. Nous proposons l'entraînement adversarial sur graphe (GraphAT), qui prend en compte l'impact des exemples connectés lors de l'apprentissage pour construire et résister aux perturbations. Nous présentons une formulation générale de GraphAT, qui peut être considérée comme un schéma de régularisation dynamique basé sur la structure du graphe. Pour démontrer l'utilité de GraphAT, nous l'avons appliqué à un modèle avancé de réseau neuronal sur graphe — le réseau neuronal convolutionnel sur graphe (GCN). Nous avons mené des expériences sur deux graphes de citations (Citeseer et Cora) et un graphe de connaissances (NELL), vérifiant ainsi l'efficacité de GraphAT qui surpassait l'entraînement normal du GCN avec une amélioration de 4,51 % en précision de classification nodale. Les codes sources sont disponibles via : https://github.com/fulifeng/GraphAT.