HyperAIHyperAI
vor 15 Tagen

CAT: Ein kausales Graph-Attention-Netzwerk zur Bearbeitung heterophiler Graphen

Silu He, Qinyao Luo, Xinsha Fu, Ling Zhao, Ronghua Du, Haifeng Li
CAT: Ein kausales Graph-Attention-Netzwerk zur Bearbeitung heterophiler Graphen
Abstract

Der lokal angeleitete Nachrichtenübertragungsmechanismus (Local Attention-guided Message Passing Mechanism, LAMP), der in Graph Attention Networks (GATs) verwendet wird, ist darauf ausgelegt, adaptiv die Bedeutung benachbarter Knoten für eine verbesserte lokale Aggregation im Graphen zu lernen, wodurch die Repräsentationen ähnlicher Nachbarn effektiv näher zusammengebracht werden und somit eine stärkere Unterscheidungsfähigkeit erzielt wird. Allerdings leiden bestehende GATs unter einer erheblichen Abnahme der Unterscheidungsfähigkeit in heterophilen Graphen, da der hohe Anteil dissimilarer Nachbarn die Selbst-Attention des zentralen Knotens abschwächen kann, was gemeinsam dazu führt, dass der zentrale Knoten im Repräsentationsraum von ähnlichen Knoten abweicht. Dieser Effekt, der durch benachbarte Knoten hervorgerufen wird, wird in dieser Arbeit als „Distraction Effect (DE)“ bezeichnet. Um den DE der Nachbarn zu schätzen und zu verringern, schlagen wir einen kausalen Graph-Attention-Netzwerkansatz zur Trimming heterophiler Graphen (Causally graph Attention network for Trimming heterophilic graph, CAT) vor. Zur Schätzung des DE nutzen wir den Total Effect, ein kausales Schätzmaß, das sich aus intervenierten Daten abschätzen lässt, da der DE über zwei Pfade entsteht: durch die Beeinflussung der der Nachbarn zugewiesenen Aufmerksamkeit und durch die Reduktion der Selbst-Attention des zentralen Knotens. Um den DE zu reduzieren, identifizieren wir die Nachbarn mit dem höchsten DE (die wir als „Distraction Neighbors“ bezeichnen) und entfernen sie. Wir integrieren drei repräsentative GATs als Basismodelle innerhalb des vorgeschlagenen CAT-Frameworks und führen Experimente auf sieben heterophilen Datensätzen unterschiedlicher Größen durch. Vergleichsexperimente zeigen, dass CAT die Genauigkeit der Knotenklassifikation aller Basismodelle verbessert. Ablationsexperimente und Visualisierungen bestätigen zudem die Steigerung der Unterscheidungsfähigkeit durch CAT. Der Quellcode ist unter https://github.com/GeoX-Lab/CAT verfügbar.

CAT: Ein kausales Graph-Attention-Netzwerk zur Bearbeitung heterophiler Graphen | Neueste Forschungsarbeiten | HyperAI