HyperAIHyperAI
منذ 2 أشهر

DyG2Vec: التعلم الفعّال للتمثيلات في الرسوم البيانية الديناميكية

Mohammad Ali Alomrani; Mahdi Biparva; Yingxue Zhang; Mark Coates
DyG2Vec: التعلم الفعّال للتمثيلات في الرسوم البيانية الديناميكية
الملخص

أظهرت شبكات الجرافات العصبية الزمنية نتائج واعدة في تعلم التمثيلات الاستقرائية من خلال استخراج الأنماط الزمنية تلقائيًا. ومع ذلك، فإن الأعمال السابقة غالبًا ما تعتمد على وحدات ذاكرة معقدة أو طرق المشي العشوائي غير الفعالة لبناء التمثيلات الزمنية. لمعالجة هذه القيود، نقدم مُشفِّرًا قائمًا على الانتباه (attention-based) فعالًا ولكنه كفؤ يستفيد من ترميز الحواف الزمنية وعينات الرسوم الفرعية القائمة على النافذة لإنشاء تمثيلات محايدة للمهمة (task-agnostic embeddings). بالإضافة إلى ذلك، نقترح هندسة تمثيل مشترك باستخدام التعلم الذاتي غير المقارن (non-contrastive SSL) لتعلم تمثيلات زمنية غنية بدون تسميات. تشير نتائج التجارب على 7 مجموعات بيانات معيارية إلى أن نموذجنا يتفوق بشكل متوسط بنسبة 4.23% على خطوط الأساس الأكثر حداثة (SoTA baselines) في مهمة التنبؤ بالروابط المستقبلية للإعداد الاستقرائي (transductive setting) وبنسبة 3.30% للإعداد الاستدلالي (inductive setting)، مع الحاجة فقط إلى وقت تدريب واستدلال أقل بمقدار 5-10 أضعاف. وأخيرًا، يتم دراسة جوانب مختلفة للإطار المقترح من خلال تحليل التجارب والدراسات الانحسارية (ablation studies). يمكن الوصول إلى الكود بشكل عام عبر الرابط: https://github.com/huawei-noah/noah-research/tree/master/graph_atlas.

DyG2Vec: التعلم الفعّال للتمثيلات في الرسوم البيانية الديناميكية | أحدث الأوراق البحثية | HyperAI