HyperAIHyperAI
vor 15 Tagen

GraphMix: Verbessertes Training von GNNs für semi-supervised Learning

Vikas Verma, Meng Qu, Kenji Kawaguchi, Alex Lamb, Yoshua Bengio, Juho Kannala, Jian Tang
GraphMix: Verbessertes Training von GNNs für semi-supervised Learning
Abstract

Wir stellen GraphMix vor, eine Regularisierungsmethode für graphbasierte neuronale Netze zur semi-supervised Objektklassifikation. Dabei schlagen wir vor, ein vollständig verbundenes Netz gemeinsam mit dem graphbasierten neuronalen Netzwerk über Parameter-Teilung und eine auf Interpolation basierende Regularisierung zu trainieren. Zudem liefern wir eine theoretische Analyse, wie GraphMix die Generalisierungsgrenzen des zugrundeliegenden graphbasierten neuronalen Netzes verbessert, ohne Annahmen über die „Aggregationsschicht“ oder die Tiefe des Netzwerks zu treffen. Wir validieren diese Analyse experimentell, indem wir GraphMix auf verschiedene Architekturen wie Graph Convolutional Networks, Graph Attention Networks und Graph-U-Net anwenden. Trotz seiner Einfachheit zeigen wir, dass GraphMix konsistent die Leistung verbessert oder die State-of-the-Art-Ergebnisse mit sogar einfacheren Architekturen wie Graph Convolutional Networks erreicht, an drei etablierten Graph-Benchmark-Datensätzen – Cora, Citeseer und Pubmed Zitierungsnetzwerke – sowie an drei neu vorgeschlagenen Datensätzen: Cora-Full, Co-author-CS und Co-author-Physics.

GraphMix: Verbessertes Training von GNNs für semi-supervised Learning | Neueste Forschungsarbeiten | HyperAI