HyperAIHyperAI

Command Palette

Search for a command to run...

تعلم التماثل الاحتمالي للتعامد المعماري غير المعتمد على الهيكل

Jinwoo Kim; Tien Dat Nguyen; Ayhan Suleymanzade; Hyeokjun An; Seunghoon Hong

الملخص

نقدم إطارًا جديدًا للتغلب على قيود الهندسة المتكافئة في تعلم الدوال ذات التناظر المجموعاتي. بخلاف الأطر المتكافئة، نستخدم نموذجًا أساسيًا عشوائيًا مثل الشبكة العصبية متعددة الطبقات (MLP) أو المحول (transformer) ونجعله متكافئًا مع المجموعة المعطاة من خلال استخدام شبكة متكافئة صغيرة تحدد التوزيع الاحتمالي الكامن وراء عملية التناظر. يتم تدريب هذا التوزيع بشكل شامل مع النموذج الأساسي، مما يمكن من تحقيق أداء أعلى مع تقليل تعقيد العينة لعملية التناظر. نوضح أن هذا النهج يضمن ليس فقط التناظر مع المجموعة المعطاة ولكن أيضًا قدرة التقريب العالمية بالتوقع. نطبق طريقتنا على مجموعة متنوعة من النماذج الأساسية، بما في ذلك المحولات القائمة على الرقع التي يمكن تهيئتها من محولات الرؤية المسبقة التدريب، ونختبرها لمدى واسع من مجموعات التناظر بما في ذلك مجموعات التبديل والأوروبية وأزواجها. أظهرت الاختبارات التجريبية نتائج تنافسية مقابل الأطر المتكافئة المصممة خصيصًا، مما يشير إلى إمكانية تعلم الدوال المتكافئة لمجموعات متنوعة باستخدام بنية أساسية عالمية غير متكافئة. كما قدمنا أدلة على تعزيز التعلم في الوسائط المناظرة، مثل الرسوم البيانية، عند بدء التدريب من الوسائط غير المناظرة، مثل الرؤية. يمكن الوصول إلى الكود عبر الرابط: https://github.com/jw9730/lps.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp