HyperAIHyperAI

Command Palette

Search for a command to run...

FDGATII: Schnelle dynamische Graph-Attention mit initialer Residual- und Identitätsabbildung

Gayan K. Kulatilleke Marius Portmann Ryan Ko Shekhar S. Chandra

Zusammenfassung

Obwohl Graph Neural Networks (GNNs) in zahlreichen Anwendungsbereichen an Beliebtheit gewonnen haben, bleibt die Verarbeitung graphenstrukturierter Eingaben aufgrund von (a) Over-Smoothing, (b) verrauschten Nachbarn (Heterophilie) und (c) dem Problem der suspendierten Animation weiterhin eine große Herausforderung. Um all diese Probleme gleichzeitig anzugehen, schlagen wir ein neuartiges Graph Neural Network, FDGATII, vor, das sich an der Fähigkeit des Aufmerksamkeitsmechanismus zur selektiven Informationsfokussierung orientiert und durch zwei featureerhaltende Mechanismen ergänzt wird. FDGATII kombiniert Initial Residuals und Identity Mapping mit einem ausdrucksstarken dynamischen Selbst-Aufmerksamkeitsmechanismus, um Rauschen, das aus den Nachbarschaften in heterophilen Datensätzen stammt, effektiv zu bewältigen. Durch die Verwendung von sparsen dynamischen Aufmerksamkeiten ist FDGATII inhärent parallelisierbar und gleichzeitig betriebsmäßig effizient; somit theoretisch in der Lage, sich nahtlos auf beliebige Graphen zu skalieren. Unser Ansatz wurde umfassend an sieben Datensätzen evaluiert. Wir zeigen, dass FDGATII Benchmark-Modelle auf Basis von GAT und GCN in Bezug auf Genauigkeit und Leistung bei vollständig überwachten Aufgaben übertrifft, state-of-the-art-Ergebnisse auf den Datensätzen Chameleon und Cornell erzielt – ohne jegliche domänenspezifische Vorverarbeitung des Graphen – und demonstrieren so dessen Vielseitigkeit und Fairness.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp