الاستخلاص الموزون المبني على مجموعة مستقلة ذات أقصى إنتروبيا لشبكات التعلم الرسومية

في هذه الورقة، نقترح طبقة تجميع جديدة لشبكات التعلم العصبي الرسومية تعتمد على تكبير المعلومات التبادلية بين الرسم البياني الناتج عن التجميع والرسم البياني المدخل. وبما أن الحد الأقصى للمعلومات التبادلية يصعب حسابه، نستخدم سعة شانون للرسم البياني كانحياز تعميمي (inductive bias) في طريقة التجميع الخاصة بنا. وبشكل أكثر دقة، نوضح أن الرسم البياني المدخل إلى طبقة التجميع يمكن اعتباره تمثيلاً لقناة اتصال ضجيجية. بالنسبة لقناة كهذه، فإن إرسال الرموز المنتمية إلى مجموعة مستقلة (independent set) في الرسم البياني يؤدي إلى نقل معلومات موثوق به وبدون أخطاء. ونُظهر أن تحقيق الحد الأقصى للمعلومات التبادلية يعادل إيجاد مجموعة مستقلة ذات وزن أقصى في الرسم البياني، حيث تُعبر الأوزان عن محتويات الإنتروبيا. وباستخدام هذا المنظور النظري في نظرية الاتصالات، نقدم منظورًا متميزًا لصياغة مشكلة التجميع في الرسوم البيانية كمهمة تكبير معدل نقل المعلومات عبر قناة اتصال ضجيجية، يتم تنفيذها بواسطة شبكة عصبية رسومية. وقد قُمنا بتقييم طريقةنا، التي تُعرف باسم تجميع مجموعة مستقلة ذات وزن عشوائي عالي الانتروبيا (MEWISPool)، على مهام تصنيف الرسوم البيانية وعلى مسألة التحسين المركب الخاصة بمجموعة المستقلة القصوى. وأظهرت النتائج التجريبية أن طريقةنا تحقق نتائج متميزة وتنافسية في مهام تصنيف الرسوم البيانية، وكذلك في مسألة المجموعة المستقلة القصوى، على عدة مجموعات بيانات معيارية.