Graphen-Adversariales Training: Dynamische Regularisierung auf Basis der Graphenstruktur

Neueste Bemühungen zeigen, dass neuronale Netze anfällig für kleine, aber gezielte Störungen der Eingabeattribute bei visuellen Klassifizierungsaufgaben sind. Aufgrund der zusätzlichen Berücksichtigung von Verbindungen zwischen Beispielen (z.B. Artikel mit Zitierverknüpfungen neigen dazu, in derselben Klasse zu liegen), können graphbasierte neuronale Netze (Graph Neural Networks) noch empfindlicher auf solche Störungen reagieren, da die Störungen aus verbundenen Beispielen den Einfluss auf ein Zielbeispiel verstärken. Die feindliche Trainierung (Adversarial Training, AT), eine dynamische Regularisierungstechnik, kann die schlimmsten Störungen der Eingabeattribute abwehren und ist eine vielversprechende Methode zur Verbesserung der Robustheit und Generalisierungsfähigkeit von Modellen. Allerdings konzentrieren sich bestehende AT-Methoden auf Standardklassifizierung und sind weniger effektiv beim Training von Modellen auf Graphen, da sie den Einfluss verbundener Beispiele nicht modellieren.In dieser Arbeit untersuchen wir die feindliche Trainierung auf Graphen im Hinblick darauf, die Robustheit und Generalisierungsfähigkeit von Modellen zu verbessern, die auf Graphen gelernt wurden. Wir schlagen Graph Adversarial Training (GraphAT) vor, das den Einfluss verbundener Beispiele berücksichtigt, wenn es darum geht, Störungen zu konstruieren und abzuwehren. Wir geben eine allgemeine Formulierung des GraphAT, das als dynamisches Regularisierungsverfahren basierend auf der Graphstruktur angesehen werden kann. Um die Nützlichkeit des GraphAT zu demonstrieren, wenden wir es auf ein modernes graphbasiertes neuronales Netzmodell an – das Graph Convolutional Network (GCN). Wir führen Experimente auf zwei Zitiergraphen (Citeseer und Cora) sowie einem Wissensgraphen (NELL) durch und verifizieren damit die Effektivität des GraphAT, das in der Knotenklassifikationsgenauigkeit um 4,51 % besser abschneidet als normales Training auf GCN. Der Quellcode ist unter folgendem Link verfügbar: https://github.com/fulifeng/GraphAT.