HyperAIHyperAI

Command Palette

Search for a command to run...

Neuronale Garben-Diffusion: Eine topologische Perspektive auf Heterophilie und Überglättung in GNNs

Cristian Bodnar; Francesco Di Giovanni; Benjamin Paul Chamberlain; Pietro Liò; Michael M. Bronstein

Zusammenfassung

Zelluläre Garben versehen Graphen mit einer „geometrischen“ Struktur, indem sie Vektorräume und lineare Abbildungen den Knoten und Kanten zuordnen. Grapheneuronalnetze (GNNs) gehen implizit von einem Graphen mit einer trivialen zugrundeliegenden Garbe aus. Diese Wahl spiegelt sich in der Struktur des Graph-Laplace-Operators, den Eigenschaften der zugehörigen Diffusionsgleichung und den Merkmalen der Faltungsmodelle wider, die diese Gleichung diskretisieren. In dieser Arbeit nutzen wir die Theorie der zellulären Garben, um zu zeigen, dass die zugrundeliegende Geometrie des Graphen eng mit der Leistung von GNNs in heterophilen Szenarien und ihrem Überglättungsverhalten verbunden ist. Indem wir eine Hierarchie zunehmend allgemeinerer Garben betrachten, untersuchen wir, wie die Fähigkeit des Garbendiffusionsprozesses zur linearen Trennung der Klassen im Grenzwert unendlicher Zeit erweitert wird. Zugleich beweisen wir, dass bei nicht-trivialen Garben diskretisierte parametrische Diffusionsprozesse mehr Kontrolle über ihr asymptotisches Verhalten haben als GNNs. Auf praktischer Seite untersuchen wir, wie Garben aus Daten gelernt werden können. Die resultierenden Garbendiffusionsmodelle besitzen viele wünschenswerte Eigenschaften, die die Einschränkungen klassischer Graph-Diffusionsgleichungen (und entsprechender GNN-Modelle) abmildern und wettbewerbsfähige Ergebnisse in heterophilen Szenarien erzielen. Insgesamt liefert unsere Arbeit neue Verbindungen zwischen GNNs und algebraischer Topologie und wäre für beide Bereiche von Interesse.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp