تعلم التماثل الاحتمالي للتعامد المعماري غير المعتمد على الهيكل

نقدم إطارًا جديدًا للتغلب على قيود الهندسة المتكافئة في تعلم الدوال ذات التناظر المجموعاتي. بخلاف الأطر المتكافئة، نستخدم نموذجًا أساسيًا عشوائيًا مثل الشبكة العصبية متعددة الطبقات (MLP) أو المحول (transformer) ونجعله متكافئًا مع المجموعة المعطاة من خلال استخدام شبكة متكافئة صغيرة تحدد التوزيع الاحتمالي الكامن وراء عملية التناظر. يتم تدريب هذا التوزيع بشكل شامل مع النموذج الأساسي، مما يمكن من تحقيق أداء أعلى مع تقليل تعقيد العينة لعملية التناظر. نوضح أن هذا النهج يضمن ليس فقط التناظر مع المجموعة المعطاة ولكن أيضًا قدرة التقريب العالمية بالتوقع. نطبق طريقتنا على مجموعة متنوعة من النماذج الأساسية، بما في ذلك المحولات القائمة على الرقع التي يمكن تهيئتها من محولات الرؤية المسبقة التدريب، ونختبرها لمدى واسع من مجموعات التناظر بما في ذلك مجموعات التبديل والأوروبية وأزواجها. أظهرت الاختبارات التجريبية نتائج تنافسية مقابل الأطر المتكافئة المصممة خصيصًا، مما يشير إلى إمكانية تعلم الدوال المتكافئة لمجموعات متنوعة باستخدام بنية أساسية عالمية غير متكافئة. كما قدمنا أدلة على تعزيز التعلم في الوسائط المناظرة، مثل الرسوم البيانية، عند بدء التدريب من الوسائط غير المناظرة، مثل الرؤية. يمكن الوصول إلى الكود عبر الرابط: https://github.com/jw9730/lps.