HyperAIHyperAI
منذ 13 أيام

هل يمكن لـ GNNs الكلاسيكية أن تكون أساسيات قوية للمهام على مستوى الرسم البياني؟ بنيات بسيطة تحقق التفوق

Luo, Yuankai, Shi, Lei, Wu, Xiao-Ming
هل يمكن لـ GNNs الكلاسيكية أن تكون أساسيات قوية للمهام على مستوى الرسم البياني؟ بنيات بسيطة تحقق التفوق
الملخص

تم انتقاد الشبكات العصبية الرسومية التي تعتمد على تبادل الرسائل (GNNs) غالبًا بسبب محدودية قدرتها التعبيرية، ومشكلات مثل التمويه الزائد (over-smoothing) والانضغاط الزائد (over-squashing)، بالإضافة إلى الصعوبات في التقاط الاعتماديات طويلة المدى. في المقابل، تُعتبر محولات الرسوم (Graph Transformers - GTs) أكثر تفوقًا نظرًا لاستخدامها آليات الانتباه العالمي، التي تُعدّ قادرة على التخفيف من هذه التحديات. وغالبًا ما تشير الدراسات الأكاديمية إلى أن GTs تتفوق على GNNs في المهام على مستوى الرسم البياني، وخاصة في تصنيف الرسوم وانحدارها على الرسوم الجزيئية الصغيرة. في هذه الدراسة، نستكشف الإمكانات غير المستغلة للـ GNNs من خلال إطار عمل مُحسَّن يُسمى GNN+، الذي يدمج ست تقنيات شائعة الاستخدام: دمج ميزات الحواف، التطبيع، تقنية الـ dropout، الاتصالات المتبقية (residual connections)، الشبكات العصبية الأمامية (feed-forward networks)، وترميز الموضع (positional encoding)، بهدف التصدي الفعّال للمهام على مستوى الرسم البياني. قمنا بإجراء إعادة تقييم منهجية لثلاثة نماذج كلاسيكية من GNNs (GCN، GIN، وGatedGCN) التي تم تعزيزها باستخدام إطار GNN+ على 14 مجموعة بيانات شهيرة على مستوى الرسم البياني. أظهرت النتائج أن هذه النماذج الكلاسيكية، على عكس الاعتقاد السائد، تحقق أداءً يوازي أو يتفوق على GTs بشكل مستمر، حيث حصلت على أفضل ثلاث نتائج في جميع المجموعات، واحتلت المركز الأول في ثمانٍ منها. علاوةً على ذلك، تُظهر هذه النماذج كفاءة أعلى، حيث تعمل بسرعة عدة مرات أكبر من GTs على العديد من المجموعات. ويُبرز هذا النتائج الإمكانات الكامنة في الهياكل البسيطة للـ GNNs، مما يتحدى الفكرة السائدة بأن الآليات المعقدة في GTs ضرورية لتحقيق أداء متفوق على مستوى الرسم البياني. يُمكن الوصول إلى كود المصدر الخاص بنا من خلال الرابط التالي: https://github.com/LUOyk1999/GNNPlus.