HyperAIHyperAI

Command Palette

Search for a command to run...

PANDA : Expansion de la transmission de messages avec prise en compte de la largeur au-delà du ré câblage

Jeongwhan Choi¹ Sumin Park² Hyowon Wi¹ Sung-Bae Cho¹ Noseong Park³

Résumé

Des recherches récentes dans le domaine des réseaux neuronaux sur graphes (GNN) ont identifié un problème critique connu sous le nom de « sur-compression » (over-squashing), résultant du phénomène de goulot d'étranglement dans les structures de graphe, qui entrave la propagation de l'information à longue portée. Des travaux antérieurs ont proposé divers concepts de ré câblage de graphe visant à optimiser les propriétés spatiales ou spectrales des graphes pour favoriser la propagation du signal. Cependant, ces approches détériorent inévitablement la topologie originale du graphe, ce qui peut entraîner une distorsion du flux d'information. Pour remédier à cela, nous introduisons une nouvelle paradigme de passage de messages élargi et conscient de la largeur (PANDA), où les nœuds ayant une centralité élevée, potentiellement source de sur-compression, sont sélectivement élargis en largeur pour encapsuler l'afflux croissant de signaux provenant des nœuds distants. Les résultats expérimentaux montrent que notre méthode surpassent les méthodes existantes de ré câblage, suggérant que l'élargissement sélectif de l'état caché des nœuds peut être une alternative convaincante au ré câblage de graphe pour résoudre le problème de sur-compression.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp