HyperAIHyperAI
il y a 2 mois

Réexaminer l'hétérophylie pour les réseaux neuronaux graphiques

Sitao Luan; Chenqing Hua; Qincheng Lu; Jiaqi Zhu; Mingde Zhao; Shuyuan Zhang; Xiao-Wen Chang; Doina Precup
Réexaminer l'hétérophylie pour les réseaux neuronaux graphiques
Résumé

Les Réseaux Neuraux Graphiques (RNG) étendent les Réseaux Neuraux de base (RN) en utilisant des structures de graphe basées sur le biais inductif relationnel (hypothèse d'homophilie). Bien que l'on ait généralement cru que les RNG surpassaient les RN dans les tâches du monde réel, des travaux récents ont identifié un ensemble non trivial de jeux de données où leurs performances par rapport aux RN ne sont pas satisfaisantes. L'hétérophilie a été considérée comme la principale cause de cette observation empirique, et de nombreuses recherches ont été menées pour y remédier. Dans cet article, nous revisitons d'abord les métriques d'homophilie largement utilisées et soulignons que leur considération exclusive de la cohérence entre le graphe et les labels est une limitation. Ensuite, nous étudions l'hétérophilie sous l'angle de la similarité nodale post-agrégation et définissons de nouvelles métriques d'homophilie, potentiellement plus avantageuses que celles existantes. Sur la base de cette enquête, nous démontrons qu'il est possible d'atténuer efficacement certains cas néfastes d'hétérophilie par une opération de diversification locale. Nous proposons ensuite le mélange adaptatif des canaux (Adaptive Channel Mixing - ACM), un cadre permettant d'exploiter adaptativement les canaux d'agrégation, de diversification et d'identité au niveau des nœuds afin d'extraire des informations localisées plus riches pour diverses situations d'hétérophilie nodale. L'ACM est plus puissant que le cadre monocanal couramment utilisé pour les tâches de classification nodale sur des graphes hétérophiles et peut être facilement intégré dans les couches de base des RNG. Évalué sur 10 tâches de classification nodale基准数据集 (benchmark), l'ACM améliore constamment les performances des modèles de base, surpassant les RNGs d'avant-garde sur la plupart des tâches sans entraîner une charge computationnelle significative.Note: "基准数据集" is translated as "benchmark" in French to maintain the technical term's consistency with English usage in the field. If you prefer a more literal translation or an explanation of the term within the text, please let me know!