HyperAIHyperAI
منذ 2 أشهر

شبكات الاهتمام بالرسوم البيانية

Petar Veličković; Guillem Cucurull; Arantxa Casanova; Adriana Romero; Pietro Liò; Yoshua Bengio
شبكات الاهتمام بالرسوم البيانية
الملخص

نقدم شبكات الرسم البياني الانتباهية (GATs)، وهي هياكل عصبية جديدة تعمل على بيانات ذات هيكل رسم بياني، مستفيدة من طبقات الانتباه الذاتي المقنّعة لمعالجة نقاط ضعف الأساليب السابقة التي تعتمد على التوافقيات الرسمية أو تقريباتها. من خلال تراكم الطبقات التي يمكن فيها للعقد أن تنتبه إلى خصائص جوارها، نمكّن (بشكل ضمني) تحديد أوزان مختلفة لعقد مختلفة في الجوار، دون الحاجة إلى أي نوع من العمليات المصفوفية المكلفة (مثل العكس) أو الاعتماد على معرفة بنية الرسم البياني مسبقًا. بهذه الطريقة، نعالج العديد من التحديات الرئيسية لشبكات العصبونات الرسمية القائمة على الطيف في آن واحد، ونجعل نموذجنا قابلًا للتطبيق بسهولة على المشكلات الاستقرائية والاستنباطية. حققت نماذج GAT الخاصة بنا أفضل النتائج أو تساوت معها في أربع مقاييس معيارية للرسم البياني الاستقرائي والاستنباطي: وهي مجموعات بيانات شبكات الاقتباس Cora وCiteseer وPubmed، بالإضافة إلى مجموعة بيانات التفاعل البروتيني-البروتيني (حيث تظل الرسوم البيانية الاختبارية غير مرئية أثناء التدريب).

شبكات الاهتمام بالرسوم البيانية | أحدث الأوراق البحثية | HyperAI