HyperAIHyperAI
il y a 15 jours

GNN ordonné : ordonnancement du passage de messages pour faire face à l'hétérophilie et au sur-lissage

Yunchong Song, Chenghu Zhou, Xinbing Wang, Zhouhan Lin
GNN ordonné : ordonnancement du passage de messages pour faire face à l'hétérophilie et au sur-lissage
Résumé

La plupart des réseaux de neurones sur graphes suivent le mécanisme de passage de messages. Toutefois, ce dernier souffre du problème de sur-lissage lorsqu’un grand nombre d’itérations de passage de messages sont appliquées à un graphe, entraînant des représentations de nœuds indiscernables et empêchant ainsi le modèle d’apprendre efficacement les dépendances entre des nœuds éloignés. D’un autre côté, les caractéristiques des nœuds voisins portant des étiquettes différentes risquent d’être incorrectement mélangées, ce qui donne lieu au problème d’hétérophilie. Dans ce travail, nous proposons d’ordonner le passage des messages dans la représentation des nœuds, en affectant des blocs spécifiques de neurones au passage de messages à des distances précises (hops). Cette approche est réalisée en alignant la hiérarchie de l’arbre enraciné d’un nœud central avec l’ordre des neurones dans sa représentation. Les résultats expérimentaux sur un large ensemble de jeux de données montrent que notre modèle atteint simultanément l’état de l’art dans les scénarios d’homophilie et d’hétérophilie, sans aucune conception ciblée. En outre, ses performances restent très stables même lorsque le modèle devient très profond, ce qui permet efficacement de prévenir le problème de sur-lissage. Enfin, la visualisation des vecteurs de seuillage montre que notre modèle apprend à se comporter différemment selon les contextes d’homophilie ou d’hétérophilie, offrant ainsi un modèle de réseau de neurones sur graphe explicite.

GNN ordonné : ordonnancement du passage de messages pour faire face à l'hétérophilie et au sur-lissage | Articles de recherche récents | HyperAI