HyperAIHyperAI
منذ 15 أيام

hpGAT: شبكة انتباه رسومية مُوجَّهة بتوافقيات من الدرجة العالية

{Pin-Yu Chen, Zhining Liu, Chengyun Song, Weiyi Liu, Chenyi Zhuang}
الملخص

أظهرت الشبكات العصبية الرسومية (GNNs) تقدماً ملحوظاً مؤخراً في نمط التعلم مع البيانات ذات البنية الرسومية. ومع ذلك، تقتصر معظم الشبكات العصبية الرسومية الحالية على مجال الاستقبال للعقدة في كل طبقة على جيرانها المباشرين (الجيران من الدرجة الأولى)، مما يتجاهل حقيقة أن مجال الاستقبال الكبير قد ثبت أنه عاملاً حاسماً في الشبكات العصبية المتطورة. في هذه الورقة، نقترح منهجية جديدة لتعريف مجال استقبال متغير مناسب للشبكات العصبية الرسومية من خلال دمج معلومات الاقتراب من الدرجة العليا المستخرجة من الهيكل التوبولوجي الهرمي للرسم البياني المدخل. وبشكل محدد، تُستخدم مجموعات متعددة المقاييس المستخلصة من التحليل المصفوفي شبه غير السالب القابل للتدريب والهرمي لتعديل الأوزان عند تجميع الجيران من الدرجة الأولى. وعند دمج هذه الطريقة مع آلية الانتباه الرسومية على خصائص العقد المجاورة، يتم تحسين المعاملات القابلة للتعلم ضمن عملية التجميع بطريقة متكاملة من البداية إلى النهاية. وتبين التجارب الواسعة أن المنهجية المقترحة (hpGAT) تتفوق على الطرق الرائدة في مجالها، وتُبرز الأهمية البالغة لاستغلال الاقتراب من الدرجة العليا في التعامل مع المعلومات الضوضائية في الجيران المحليين.

hpGAT: شبكة انتباه رسومية مُوجَّهة بتوافقيات من الدرجة العالية | أحدث الأوراق البحثية | HyperAI