SlotGAT: نقل الرسائل القائمة على الفتحات لشبكات العصبونات الرسمية غير المتجانسة

الرسوم البيانية المتنوعة شائعة لنمذجة البيانات المعقدة. هناك حاجة ملحة إلى شبكات عصبية قوية للرسوم البيانية المتنوعة لدعم التطبيقات الهامة بكفاءة. نحدد مشكلة محتملة في التداخل الدلالي في عمليات تمرير الرسائل الحالية، حيث يتم إجبار تمثيلات الجيران العقدية (nodes) لعقدة $v$ على التحويل إلى فضاء السمات الخاص بـ $v$ للجمع، رغم أن هذه الجيران تنتمي إلى أنواع مختلفة. أي أن الدلالات في الأنواع المختلفة من العقد تتداخل معًا في تمثيل العقدة $v$. لحل هذه المشكلة، نقترح SlotGAT مع عمليات تمرير رسائل منفصلة في الفتحات (slots)، واحدة لكل نوع من العقد، للحفاظ على التمثيلات في فضاءات السمات الخاصة بأنواعها. بالإضافة إلى ذلك، في طبقة تمرير الرسائل القائمة على الفتحات (slot-based message passing layer)، نصمم آلية انتباه (attention mechanism) لتحقيق جمع رسائل فعال حسب الفتحات. علاوة على ذلك، نطور تقنية انتباه الفتحات (slot attention technique) بعد الطبقة الأخيرة من SlotGAT، لتعلم أهمية الفتحات المختلفة في المهام اللاحقة. يشير تحليلنا إلى أن الفتحات في SlotGAT يمكنها الحفاظ على دلالات مختلفة في فضاءات سمات متعددة. يتم تقييم تفوق SlotGAT مقابل 13 أساسًا مرجعيًا على 6 مجموعات بيانات لأجل تصنيف العقد وتوقع الروابط. رمز البرمجيات لدينا متاح على https://github.com/scottjiao/SlotGAT_ICML23/.