Neudenken und Neugestalten von Graph Neural Networks in Räumen kontinuierlicher Graphen-Diffusionsfunktionalen

Graph Neural Networks (GNNs) werden in Bereichen wie sozialen Netzwerken und biologischen Systemen breit eingesetzt. Allerdings beeinträchtigt die Lokalitätsannahme von GNNs, die den Informationsaustausch auf benachbarte Knoten beschränkt, deren Fähigkeit, langreichweitige Abhängigkeiten und globale Muster in Graphen zu erfassen. Um diesem Problem zu begegnen, schlagen wir einen neuen induktiven Bias vor, der auf der variationsanalytischen Betrachtung beruht und sich an dem Brachistochrone-Problem orientiert. Unser Framework stellt eine Abbildung zwischen diskreten GNN-Modellen und kontinuierlichen Diffusionsfunktionalen her. Dadurch können anwendungsspezifische Zielfunktionen im kontinuierlichen Raum entworfen und diskrete tiefe Modelle mit mathematischen Garantien aufgebaut werden. Um das Phänomen der Überglättung (over-smoothing) in GNNs zu bekämpfen, analysieren wir bestehende layerweise Graph-Embedding-Modelle und identifizieren, dass diese äquivalent zu l²-Norm-Integral-Funktionalen der Graph-Gradienten sind, was zur Überglättung führt. Ähnlich wie kantenbewahrende Filter in der Bildrauschunterdrückung führen wir die totale Variation (Total Variation, TV) ein, um das Diffusionsmuster des Graphen mit den globalen Gemeinschaftstopologien zu alignen. Zudem entwickeln wir eine selektive Mechanik, um das Spannungsfeld zwischen Modelltiefe und Überglättung zu bewältigen, die sich problemlos in bestehende GNNs integrieren lässt. Darüber hinaus schlagen wir ein neuartiges generatives adversariales Netzwerk (GAN) vor, das sich auf die Vorhersage von Ausbreitungsflüssen in Graphen mittels einer neuronalen Transportgleichung stützt. Um das Verschwinden von Flüssen zu mildern, passen wir die Zielfunktion an, um den Transport innerhalb jeder Gemeinschaft zu minimieren und gleichzeitig die Flüsse zwischen Gemeinschaften zu maximieren. Unsere GNN-Modelle erreichen Spitzenleistungen (SOTA) auf etablierten Benchmarks für Graphenlernverfahren wie Cora, Citeseer und Pubmed.