تعلم تمثيل مستوى الرسم البياني باستخدام هياكل التنبؤ المشتركة

الهياكل التنبؤية المشتركة المدمجة (JEPAs) ظهرت مؤخرًا كتقنية جديدة وقوية للتعلم التمثيلي الذاتي. تهدف هذه التقنية إلى تعلم نموذج قائم على الطاقة من خلال التنبؤ بالتمثيل الخفي لإشارة الهدف y من التمثيل الخفي لإشارة السياق x. تتجاوز الهياكل التنبؤية المشتركة المدمجة الحاجة إلى العينات السلبية والإيجابية التي كانت تقليديًا مطلوبة في التعلم المقارن، مع تجنب مشاكل الإفراط في التكيف المرتبطة بالتدريب الجينراتيفي الأولي. في هذا البحث، نوضح أن يمكن نمذجة التمثيلات على مستوى الرسم البياني بفعالية باستخدام هذا النهج من خلال اقتراح هيكلة تنبؤية مشتركة مدمجة للرسم البياني (Graph-JEPA). بشكل خاص، نستخدم النمذجة المقنعة ونركز على التنبؤ بالتمثيلات الخفية للرسوم البيانية الفرعية المقنعة انطلاقًا من التمثيل الخفي لرسم بياني فرعي سياقي. لمنح التمثيلات الهرمية الضمنية التي غالبًا ما تكون موجودة في المفاهيم على مستوى الرسم البياني، نبتكر هدف تنبؤ بديل يتألف من التنبؤ بإحداثيات الرسوم البيانية الفرعية المشفرة على القطع الزائد الوحدوي في المستوى الثنائي الأبعاد. عبر عدة تقييمات تجريبية، نوضح أن Graph-JEPA يمكنه تعلم تمثيلات ذات معنى عالي ومعبّرة، كما أظهر ذلك الأداء اللاحق في تصنيف الرسوم البيانية والانحدار ومميزة الرسوم البيانية غير المتشابهة. الكود متاح على الرابط: https://github.com/geriskenderi/graph-jepa.