خليط الخبراء يلتقي بإرسال الرسائل المنفصل: نحو تصنيف العقد العام والمتكيف

الشبكات العصبية الرسومية تتفوق في تعلم تمثيلات الرسوم البيانية، لكنها تعاني من البيانات ذات الطبيعة غير المتجانسة والارتباطات البعيدة. أما الشبكات الرسومية المتحولة فتتعامل مع هذه المشكلات من خلال الانتباه الذاتي (self-attention)، ولكنها تواجه تحديات في القابلية للتوسع والضوضاء على الرسوم البيانية الكبيرة الحجم. لتجاوز هذه القيود، نقترح GNNMoE، وهي هندسة نموذج شاملة لتصنيف العقد. تجمع هذه الهندسة بمرنّة عمليات نقل الرسائل الدقيقة مع آلية مزيج الخبراء (mixture-of-experts) لبناء كتل ترميز الخصائص. علاوة على ذلك، من خلال دمج طبقات التحكم الناعمة والخشنة لتخصيص شبكات الخبراء الأكثر ملاءمة لكل عقدة، نعزز قوة التعبير والمرونة في التعامل مع أنواع مختلفة من الرسوم البيانية. بالإضافة إلى ذلك، نقدم اتصالات باقية متكيفة ووحدة FFN محسّنة إلى GNNMoE، مما يحسن بشكل أكبر قوة التعبير لتمثيل العقد. أظهرت النتائج التجريبية الواسعة أن GNNMoE تؤدي بشكل استثنائي جيد عبر أنواع متعددة من بيانات الرسوم البيانية، وتخفف بفعالية مشكلة الإفراط في التسوية (over-smoothing) والضوضاء العالمية، مما يزيد من صلابة النموذج ومرونته ويضمن أيضًا الكفاءة الحسابية على الرسوم البيانية الكبيرة الحجم.