HyperAIHyperAI
vor 15 Tagen

Die Heterophile-Schneeflocken-Hypothese: Training und Empowerment von GNNs für heterophile Graphen

Kun Wang, Guibin Zhang, Xinnan Zhang, Junfeng Fang, Xun Wu, Guohao Li, Shirui Pan, Wei Huang, Yuxuan Liang
Die Heterophile-Schneeflocken-Hypothese: Training und Empowerment von GNNs für heterophile Graphen
Abstract

Graph Neural Networks (GNNs) sind zu zentralen Werkzeugen für eine Vielzahl von graphbasierten Lernaufgaben geworden. Insbesondere gehen die meisten aktuellen GNN-Architekturen implizit oder explizit von der Annahme der Homophilie aus. Obwohl diese Grundannahme häufig verwendet wird, ist sie nicht universell gültig und kann zu potenziellen Einschränkungen in der Lernwirksamkeit führen. In diesem Artikel übertragen wir erstmals das etablierte Konzept des „ein Knoten – ein Rezeptionsfeld“ auf heterophile Graphen. Durch die Konstruktion eines Proxy-Label-Predictors ermöglichen wir es jedem Knoten, eine latente Vorhersageverteilung zu besitzen, die verbundene Knoten dabei unterstützt, zu entscheiden, ob sie ihre benachbarten Knoten aggregieren sollen. Letztlich kann jeder Knoten über einen individuellen Aggregations-Hop und eine spezifische Aggregationsstrategie verfügen – ähnlich wie jedes Schneeflockenmuster einzigartig ist und eigene Merkmale besitzt. Aufgrund dieser Beobachtungen führen wir innovativ die „Heterophilie-Schneeflocken-Hypothese“ ein und präsentieren eine effektive Lösung, um die Forschung an heterophilen Graphen und darüber hinaus gezielt voranzutreiben. Wir führen umfassende Experimente durch, darunter (1) Hauptergebnisse auf 10 Graphen mit unterschiedlichen Heterophilie-Ratio über 10 verschiedene Backbones; (2) Skalierbarkeitsanalysen an verschiedenen tiefen GNN-Backbones (SGC, JKNet usw.) bei unterschiedlich hohen Schichtzahlen (2, 4, 6, 8, 16, 32 Schichten); (3) Vergleich mit der herkömmlichen Schneeflocken-Hypothese; (4) Effizienzvergleich mit bestehenden Graph-Pruning-Algorithmen. Unsere Ergebnisse zeigen, dass unser Framework als universeller Operator für vielfältige Aufgaben fungiert. Es lässt sich nahtlos in verschiedene GNN-Architekturen integrieren, die Leistung in tiefgreifender Weise verbessern und zudem einen erklärbaren Ansatz zur Auswahl der optimalen Netzwerk-Tiefe bieten. Der Quellcode ist unter \url{https://github.com/bingreeky/HeteroSnoH} verfügbar.

Die Heterophile-Schneeflocken-Hypothese: Training und Empowerment von GNNs für heterophile Graphen | Neueste Forschungsarbeiten | HyperAI