HyperAIHyperAI

Command Palette

Search for a command to run...

Robuste Optimierung als Daten-Augmentation für große Graphen

Kezhi Kong Guohao Li Mucong Ding Zuxuan Wu Chen Zhu Bernard Ghanem Gavin Taylor Tom Goldstein

Zusammenfassung

Die Datenaugmentierung unterstützt die bessere Generalisierung von neuronalen Netzen durch Vergrößerung des Trainingsdatensatzes, doch bleibt unklar, wie graphenbasierte Daten effektiv augmentiert werden können, um die Leistung von GNNs (Graph Neural Networks) zu verbessern. Während die meisten bestehenden Graph-Regularisierungsansätze darauf abzielen, die topologische Struktur des Graphen durch Hinzufügen oder Entfernen von Kanten zu manipulieren, präsentieren wir eine Methode zur Augmentierung von Knotenmerkmalen, um die Modellleistung zu steigern. Wir stellen FLAG (Free Large-scale Adversarial Augmentation on Graphs) vor, eine Methode, die während des Trainings iterativ Knotenmerkmale mit gradientenbasierten adversarialen Störungen augmentiert. Durch die Erzeugung von Invarianz gegenüber kleinen Schwankungen in den Eingabedaten unterstützt unsere Methode die Generalisierung auf außerhalb der Verteilung liegende (out-of-distribution) Beispiele und verbessert die Modellleistung im Testzeitraum. FLAG ist ein allgemein verwendbarer Ansatz für graphenbasierte Daten und funktioniert universell in Aufgaben der Knotenklassifikation, Link-Vorhersage und Graph-Klassifikation. Zudem ist FLAG äußerst flexibel und skalierbar und kann mit beliebigen GNN-Backbones sowie großen Datensätzen eingesetzt werden. Die Wirksamkeit und Stabilität unseres Ansatzes demonstrieren wir durch umfangreiche Experimente und Ablationsstudien. Zudem liefern wir intuitive Beobachtungen, die ein tieferes Verständnis unseres Verfahrens ermöglichen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp