HyperAIHyperAI
منذ 17 أيام

تعلم تمثيلات موضعية فعّالة باستخدام الشبكات العصبية الرسومية

{Alejandro Ribeiro, Jure Leskovec, Stephanie Jegelka, Evelyn Choi, Charilaos I. Kanatsoulis}
تعلم تمثيلات موضعية فعّالة باستخدام الشبكات العصبية الرسومية
الملخص

تُعد الترميزات المكانية (PEs) ضرورية لتعلم تمثيل الرسوم البيانية بكفاءة، نظرًا لأنها توفر الوعي بالموقع في هياكل الترانسفورمر التي تفتقر بشكل جوهري إلى الوعي بالموقع، وتعزز القدرة التعبيرية لشبكات التعلم العصبي للرسوم البيانية (GNNs). ومع ذلك، يشكل تصميم ترميزات مكانية قوية وفعالة للرسوم البيانية تحديًا كبيرًا بسبب غياب ترتيب قياسي للعقد، وحجم الرسم البياني الكبير. في هذه الدراسة، نحدد أربعة خصائص أساسية يجب أن تحققها الترميزات المكانية للرسوم البيانية: الاستقرار، والقدرة التعبيرية، والقابلية للتوسع، والعمومية. ونلاحظ أن الطرق الحالية القائمة على المتجهات الذاتية غالبًا ما تفشل في تحقيق هذه المعايير معًا. لسد هذا الفجوة، نقدّم PEARL، وهي إطار جديد للترميزات المكانية القابلة للتعلم للرسوم البيانية. يكمن الرؤية الأساسية لدينا في أن شبكات التعلم العصبي للرسوم البيانية التي تعتمد على تمرير الرسائل (message-passing GNNs) تعمل ك映射 غير خطية للمتجهات الذاتية، مما يمكّن من تصميم هياكل GNN لتكوين ترميزات مكانية قوية وفعالة. ويتناول التحدي الرئيسي تهيئة ميزات العقد بطريقة تحقق القدرة التعبيرية والتعادلية بالنسبة للترميزات (permutation equivariance) في آنٍ واحد. ونحل هذه المشكلة من خلال تهيئة الشبكات باستخدام مدخلات عشوائية للعقد أو متجهات الأساس القياسية، مما يُحرّر القدرة التعبيرية لعمليات تمرير الرسائل، مع استخدام دوال تجميع إحصائي لضمان الحفاظ على التعادلية بالنسبة للترميزات. تُظهر تحليلاتنا أن PEARL تُقرّب الدوال المتزامنة (equivariant) للمتجهات الذاتية بتعقيد خطي، مع إثبات صارم لاستقرارها وقوتها التعبيرية العالية. كما تُظهر التقييمات التجريبية أن PEARL تتفوّق على النسخ الخفيفة من الطرق القائمة على المتجهات الذاتية، وتحقيق أداءً مماثلًا للطرق الكاملة القائمة على المتجهات الذاتية، ولكن بتعقيد أقل بواحد أو اثنين من الرتبة التامة.

تعلم تمثيلات موضعية فعّالة باستخدام الشبكات العصبية الرسومية | أحدث الأوراق البحثية | HyperAI