قياس وعلاج مشكلة التسطيح الزائد لشبكات التعلم الرسومية من منظور توبولوجي

لقد حققت الشبكات العصبية الرسومية (GNNs) أداءً واعدًا في مجموعة واسعة من المهام القائمة على الرسوم البيانية. وعلى الرغم من نجاحها، تظل إحدى القيود الجسيمة للـ GNNs هي مشكلة التسطيح الزائد (أي تمييز تمثيلات العقد في فئات مختلفة بشكل غير ممكن). في هذا العمل، نقدم دراسة منهجية وكمية لمشكلة التسطيح الزائد في الشبكات العصبية الرسومية. أولاً، نُقدِّم معيارين كميين، هما MAD وMADGap، لقياس تسطيح تمثيلات العقد في الرسوم البيانية ومستوى التسطيح الزائد على التوالي. ثم نُثبت أن التسطيح هو طبيعة جوهرية للـ GNNs، وأن العامل الحاسم المُسبب للتسطيح الزائد هو انخفاض نسبة المعلومات إلى الضوضاء في الرسائل الواردة إلى العقد، وهي نسبة تُحدد جزئيًا بواسطة هيكل الرسم البياني. وأخيرًا، نقترح طريقتين لتخفيف مشكلة التسطيح الزائد من منظور هيكل الرسم البياني: (1) MADReg، التي تضيف منظمًا مبنيًا على MADGap إلى الهدف التدريبي؛ و(2) AdaGraph، التي تقوم بتحسين هيكل الرسم البياني بناءً على توقعات النموذج. أظهرت تجارب واسعة على 7 مجموعات بيانات رسومية شائعة الاستخدام باستخدام 10 نماذج GNN نموذجية أن الطريقتين المقترحتين فعّالتان في تقليل مشكلة التسطيح الزائد، وبالتالي تحسين أداء مجموعة متنوعة من نماذج GNN.