شبكة عصبية رسومية تعتمد على الانتباه للتعلم شبه المشرف عليه

حققت الشبكات العصبية الرسومية التي اكتسبت شعبية مؤخرًا الدقة الأعلى في عدد من مجموعات البيانات القياسية المستخدمة لتعلم نصف المراقبة القائم على الرسم البياني، مما يمثل تحسينًا كبيرًا على النهج الحالية. تتضمن هذه الهندسات طبقات انتشار تقوم بتجميع الحالة الخفية للجوار المحلي وطبقات متصلة بالكامل. وبشكل مفاجئ، نظهر أن النموذج الخطي، الذي يزيل جميع الطبقات المتصلة بالكامل الوسيطة، لا يزال قادرًا على تحقيق أداء مماثل لأفضل النماذج الحالية. هذا يقلل بشكل كبير من عدد المعلمات، وهو أمر حاسم في تعلم نصف المراقبة حيث يكون عدد الأمثلة الموسومة قليلًا. بدوره، هذا يتيح مجالًا لتصميم طبقات انتشار أكثر إبداعًا. بناءً على هذه الرؤية، نقترح شبكة عصبية رسومية جديدة تزيل جميع الطبقات المتصلة بالكامل الوسيطة وتستبدل طبقات الانتشار بآليات الانتباه التي تحترم هيكل الرسم البياني. تسمح آلية الانتباه لنا بتعلم ملخص محلي ديناميكي ومرن للجوار لتحقيق توقعات أكثر دقة. في سلسلة من التجارب على مجموعات بيانات الشبكات الاستشهادية القياسية، نثبت أن نهجنا يتفوق على الأساليب المنافسة. من خلال فحص أوزان الانتباه بين الجيران، نظهر أن نموذجنا يقدم بعض الرؤى المثيرة للاهتمام حول كيفية تأثير الجيران على بعضهم البعض.