إلى شبكات عصبية رسومية أعمق

أظهرت الشبكات العصبية الرسومية نجاحًا كبيرًا في مجال تعلم تمثيل الرسوم البيانية. تقوم عمليات التقوس الرسومي (Graph convolutions) بتجميع الجيران وتمثّل واحدة من أهم العمليات الرسومية. ومع ذلك، فإن طبقة واحدة من هذه الطرق التي تعتمد على تجميع الجيران تأخذ بعين الاعتبار فقط الجيران المباشرين، وتتدهور الأداء عند زيادة العمق لتمكين مجالات استقبال أكبر. ارتبطت عدة دراسات حديثة بتدهور الأداء هذا بمشكلة التمويه الزائد (over-smoothing)، والتي تنص على أن التبادل المتكرر يجعل تمثيلات العقد المختلفة من فئات مختلفة غير قابلة للتمييز. في هذا العمل، نقوم بتحليل هذه الملاحظة بشكل منهجي ونُقدّم رؤى جديدة نحو تطوير الشبكات العصبية الرسومية العميقة. أولاً، نقدم تحليلًا منهجيًا لهذه المشكلة ونُشير إلى أن العامل الرئيسي الذي يُضعف الأداء بشكل كبير هو التداخل بين عملية تحويل التمثيل والتوزيع في العمليات الحالية للتقوس الرسومي. وبعد فصل هاتين العمليتين، يمكن استخدام الشبكات العصبية الرسومية العميقة لتعلم تمثيلات عقد الرسوم من مجالات استقبال أكبر. ونُقدّم أيضًا تحليلًا نظريًا للظاهرة المذكورة عند بناء نماذج عميقة جدًا، والذي يمكن أن يُشكّل وصفًا دقيقًا وسلسًا لمشكلة التمويه الزائد. بناءً على التحليل النظري والتجريبي، نقترح شبكة عصبية رسومية عميقة متكيفة (Deep Adaptive Graph Neural Network - DAGNN) لدمج معلومات من مجالات استقبال كبيرة بشكل تكيفي. وقد أكّدت مجموعة من التجارب على مجموعات بيانات الاستشهاد (citation)، والتعاون الأكاديمي (co-authorship)، والشراء المشترك (co-purchase)، تحليلنا ورؤانا، وبيّنت تفوق الطريقة المقترحة.