الشبكات العصبية العميقة الشاملة: إعادة التفكير في الاتصال المتفرع في الشبكات العصبية الرسومية من منظور تحليل المسار لمنع التسطيح الزائد

تتأثر أداء الشبكات العصبية الرسومية (GNNs) سلبًا مع زيادة عمقها بسبب ظاهرة التمويه الزائد (over-smoothing). ومن بين جميع المحاولات المُقدَّمة لمنع التمويه الزائد، يُعد الاتصال المتفرع (residual connection) أحد الطرق الواعدة نظرًا لبساطته. ومع ذلك، أظهرت دراسات حديثة أن الشبكات العصبية الرسومية التي تعتمد على الاتصال المتفرع تُبطئ فقط بشكل طفيف من عملية التدهور. ويتبقى سبب فشل الاتصالات المتفرعة في الشبكات العصبية الرسومية غير معروف حتى الآن. في هذه الورقة، نقوم بتحليل سلوك الشبكات العصبية الرسومية ذات الاتصالات المتفرعة من منظور جديد يتمثل في تحليل المسارات (path decomposition). ونجد أن التجميع المتكرر للمسارات ذات الطول الوسطي، الناتجة عن التوزيع الثنائي (binomial distribution) للمسارات الناتجة عن الاتصالات المتفرعة، يُشكّل العامل المهيمن على تمثيل المخرجات، مما يؤدي إلى التمويه الزائد مع زيادة عمق الشبكة. كما أن التفاعل المتشابك في انتشار الإشارات (entangled propagation) ووجود مصفوفات الأوزان يسببان تمويهًا للGradient، ما يمنع الشبكات العصبية الرسومية ذات الاتصالات المتفرعة من التحسين نحو التمثيل الهوية (identity mapping). بناءً على هذه النتائج، نُقدّم إطارًا جديدًا يُسمى الشبكات العصبية الرسومية العميقة الشاملة (Universal Deep GNNs - UDGNN)، يعتمد على اتصالات متفرعة مُعدّة مسبقًا (DRIVE) ووحدات تغذية أمامية (feedforward modules). وقد أظهرت التجارب الواسعة فعالية طريقة العمل المقترحة، حيث تحقّق أداءً متفوّقًا على المستويات الحالية (state-of-the-art) في مجموعة بيانات غير متجانسة (heterophily) وتجنب التمويه، وذلك من خلال ببساطة تراكيب متتالية من الشبكات العصبية الرسومية القياسية.