شبكة انتباه الرسم البياني غير الموحد

شبكة العصب الرسومية، كتقنية قوية لتمثيل الرسوم البيانية المستندة إلى التعلم العميق، أظهرت أداءً متفوقًا ونجحت في جذب اهتمام بحثي كبير. ومع ذلك، لم تُؤخذ في الاعتبار بشكل كامل في شبكات العصب الرسومية الخاصة بالرسوم البيانية غير المتجانسة التي تحتوي على أنواع مختلفة من العقد والروابط. تُشكل التمايز (التنوع) وال informatie الغنية المعنى تحديات كبيرة في تصميم شبكة عصب رسمية للرسوم البيانية غير المتجانسة. في الآونة الأخيرة، تمثل آلية الانتباه واحدة من أبرز التطورات المثيرة في التعلم العميق، حيث أُثبتت إمكاناتها الكبيرة بشكل جيد في مجالات متعددة. في هذه الورقة، نُقدِّم أولًا نموذجًا جديدًا لشبكة عصب رسمية غير متجانسة مستندة إلى آلية الانتباه الهرمية، تتضمن انتباهًا على مستوى العقدة وانتباهًا على مستوى المعنى. وبشكل دقيق، يهدف الانتباه على مستوى العقدة إلى تعلُّم أهمية العلاقة بين عقدة معينة وجيرانها المُعرفين عبر مسارات ميتا (meta-paths)، في حين أن الانتباه على مستوى المعنى قادر على تعلُّم أهمية المسارات الميتا المختلفة. وباستخدام الأهمية المُتعلّمة من كلا نوعي الانتباه (على مستوى العقدة وعلى مستوى المعنى)، يمكن أخذ أهمية كل عقدة ومسار ميتا بعين الاعتبار بشكل كامل. ثم، يمكن للنموذج المُقترح إنشاء تمثيلات للعقد (node embeddings) من خلال تجميع الميزات من الجيران القائمين على المسارات الميتا بطريقة هرمية. أظهرت النتائج التجريبية الواسعة على ثلاث رسوم بيانية غير متجانسة حقيقية أداءً متفوقًا على النماذج الحالية في المجال، كما أثبتت أيضًا إمكانية تفسير النموذج بشكل جيد، مما يُبرز قدرته الكبيرة على دعم تحليل الرسوم البيانية.