HyperAIHyperAI

Command Palette

Search for a command to run...

PANDA: Erweiterte width-aware Message Passing über Rewiring hinaus

Jeongwhan Choi¹ Sumin Park² Hyowon Wi¹ Sung-Bae Cho¹ Noseong Park³

Zusammenfassung

Neuere Forschungen im Bereich der Graph Neural Networks (GNN) haben ein kritisches Problem namens "Überkomprimierung" (over-squashing) identifiziert, das auf dem Flaschenhals-Phänomen in Graphstrukturen beruht und die Weitergabe von langreichweitigen Informationen behindert. Vorherige Arbeiten haben verschiedene Konzepte zur Neuaufbereitung von Graphen vorgeschlagen, die darauf abzielen, die räumlichen oder spektralen Eigenschaften von Graphen zu optimieren, um die Signalverbreitung zu fördern. Diese Ansätze verschlechtern jedoch unvermeidlich die ursprüngliche Graphentopologie, was zu einer Verzerrung des Informationsflusses führen kann. Um dieses Problem anzugehen, stellen wir eine erweiterte breitenbewusste Nachrichtenübermittlung (PANDA) vor, ein neues Paradigma der Nachrichtenübermittlung, bei dem Knoten mit hoher Zentralität, potenzielle Quellen der Überkomprimierung, selektiv in Breite erweitert werden, um den zunehmenden Ansturm von Signalen aus fernen Knoten einzukapseln. Experimentelle Ergebnisse zeigen, dass unsere Methode bestehende Neuaufbereitungsverfahren übertrifft und nahelegen, dass das selektive Erweitern des verborgenen Zustands von Knoten eine vielversprechende Alternative zur Neuaufbereitung von Graphen für die Bewältigung der Überkomprimierung sein könnte.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp