FDGATII: Schnelle dynamische Graph-Attention mit initialer Residual- und Identitätsabbildung

Obwohl Graph Neural Networks (GNNs) in zahlreichen Anwendungsbereichen an Beliebtheit gewonnen haben, bleibt die Verarbeitung graphenstrukturierter Eingaben aufgrund von (a) Over-Smoothing, (b) verrauschten Nachbarn (Heterophilie) und (c) dem Problem der suspendierten Animation weiterhin eine große Herausforderung. Um all diese Probleme gleichzeitig anzugehen, schlagen wir ein neuartiges Graph Neural Network, FDGATII, vor, das sich an der Fähigkeit des Aufmerksamkeitsmechanismus zur selektiven Informationsfokussierung orientiert und durch zwei featureerhaltende Mechanismen ergänzt wird. FDGATII kombiniert Initial Residuals und Identity Mapping mit einem ausdrucksstarken dynamischen Selbst-Aufmerksamkeitsmechanismus, um Rauschen, das aus den Nachbarschaften in heterophilen Datensätzen stammt, effektiv zu bewältigen. Durch die Verwendung von sparsen dynamischen Aufmerksamkeiten ist FDGATII inhärent parallelisierbar und gleichzeitig betriebsmäßig effizient; somit theoretisch in der Lage, sich nahtlos auf beliebige Graphen zu skalieren. Unser Ansatz wurde umfassend an sieben Datensätzen evaluiert. Wir zeigen, dass FDGATII Benchmark-Modelle auf Basis von GAT und GCN in Bezug auf Genauigkeit und Leistung bei vollständig überwachten Aufgaben übertrifft, state-of-the-art-Ergebnisse auf den Datensätzen Chameleon und Cornell erzielt – ohne jegliche domänenspezifische Vorverarbeitung des Graphen – und demonstrieren so dessen Vielseitigkeit und Fairness.