HyperAIHyperAI
il y a 2 mois

PANDA : Expansion de la transmission de messages avec prise en compte de la largeur au-delà du ré câblage

Jeongwhan Choi; Sumin Park; Hyowon Wi; Sung-Bae Cho; Noseong Park
PANDA : Expansion de la transmission de messages avec prise en compte de la largeur au-delà du ré câblage
Résumé

Des recherches récentes dans le domaine des réseaux neuronaux sur graphes (GNN) ont identifié un problème critique connu sous le nom de « sur-compression » (over-squashing), résultant du phénomène de goulot d'étranglement dans les structures de graphe, qui entrave la propagation de l'information à longue portée. Des travaux antérieurs ont proposé divers concepts de ré câblage de graphe visant à optimiser les propriétés spatiales ou spectrales des graphes pour favoriser la propagation du signal. Cependant, ces approches détériorent inévitablement la topologie originale du graphe, ce qui peut entraîner une distorsion du flux d'information. Pour remédier à cela, nous introduisons une nouvelle paradigme de passage de messages élargi et conscient de la largeur (PANDA), où les nœuds ayant une centralité élevée, potentiellement source de sur-compression, sont sélectivement élargis en largeur pour encapsuler l'afflux croissant de signaux provenant des nœuds distants. Les résultats expérimentaux montrent que notre méthode surpassent les méthodes existantes de ré câblage, suggérant que l'élargissement sélectif de l'état caché des nœuds peut être une alternative convaincante au ré câblage de graphe pour résoudre le problème de sur-compression.

PANDA : Expansion de la transmission de messages avec prise en compte de la largeur au-delà du ré câblage | Articles de recherche récents | HyperAI