HyperAIHyperAI

Command Palette

Search for a command to run...

Graphen-Adversariales Training: Dynamische Regularisierung auf Basis der Graphenstruktur

Fuli Feng Xiangnan He Jie Tang Tat-Seng Chua

Zusammenfassung

Neueste Bemühungen zeigen, dass neuronale Netze anfällig für kleine, aber gezielte Störungen der Eingabeattribute bei visuellen Klassifizierungsaufgaben sind. Aufgrund der zusätzlichen Berücksichtigung von Verbindungen zwischen Beispielen (z.B. Artikel mit Zitierverknüpfungen neigen dazu, in derselben Klasse zu liegen), können graphbasierte neuronale Netze (Graph Neural Networks) noch empfindlicher auf solche Störungen reagieren, da die Störungen aus verbundenen Beispielen den Einfluss auf ein Zielbeispiel verstärken. Die feindliche Trainierung (Adversarial Training, AT), eine dynamische Regularisierungstechnik, kann die schlimmsten Störungen der Eingabeattribute abwehren und ist eine vielversprechende Methode zur Verbesserung der Robustheit und Generalisierungsfähigkeit von Modellen. Allerdings konzentrieren sich bestehende AT-Methoden auf Standardklassifizierung und sind weniger effektiv beim Training von Modellen auf Graphen, da sie den Einfluss verbundener Beispiele nicht modellieren.In dieser Arbeit untersuchen wir die feindliche Trainierung auf Graphen im Hinblick darauf, die Robustheit und Generalisierungsfähigkeit von Modellen zu verbessern, die auf Graphen gelernt wurden. Wir schlagen Graph Adversarial Training (GraphAT) vor, das den Einfluss verbundener Beispiele berücksichtigt, wenn es darum geht, Störungen zu konstruieren und abzuwehren. Wir geben eine allgemeine Formulierung des GraphAT, das als dynamisches Regularisierungsverfahren basierend auf der Graphstruktur angesehen werden kann. Um die Nützlichkeit des GraphAT zu demonstrieren, wenden wir es auf ein modernes graphbasiertes neuronales Netzmodell an – das Graph Convolutional Network (GCN). Wir führen Experimente auf zwei Zitiergraphen (Citeseer und Cora) sowie einem Wissensgraphen (NELL) durch und verifizieren damit die Effektivität des GraphAT, das in der Knotenklassifikationsgenauigkeit um 4,51 % besser abschneidet als normales Training auf GCN. Der Quellcode ist unter folgendem Link verfügbar: https://github.com/fulifeng/GraphAT.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp