HyperAIHyperAI
منذ 11 أيام

DoubleMatch: تحسين التعلم شبه المراقب باستخدام التعلم الذاتي

Erik Wallin, Lennart Svensson, Fredrik Kahl, Lars Hammarstrand
DoubleMatch: تحسين التعلم شبه المراقب باستخدام التعلم الذاتي
الملخص

بعد النجاح المبهر للتعلم المراقب، أصبح التعلم شبه المراقب (SSL) شائعًا بشكل متزايد. يُعدّ التعلم شبه المراقب عائلة من الأساليب التي، بالإضافة إلى مجموعة بيانات تدريب مُعلّمة، تستخدم أيضًا مجموعة كبيرة من البيانات غير المُعلّمة لضبط النموذج. تعتمد معظم الأساليب الناجحة الحديثة في التعلم شبه المراقب على منهجية التسمية الوهمية (pseudo-labeling): أي السماح للتنبؤات الموثوقة التي يُقدّمها النموذج أن تُستخدم كأوامر تدريبية. وعلى الرغم من النتائج المبهرة التي أظهرتها هذه الأساليب على العديد من مجموعات البيانات القياسية، فإن عيبًا رئيسيًا في هذا النهج هو أن ليس كل بيانات غير المُعلّمة تُستخدم فعليًا أثناء التدريب. نُقدّم خوارزمية جديدة للتعلم شبه المراقب تُسمّى DoubleMatch، التي تدمج تقنية التسمية الوهمية مع خسارة ذاتية التعلم (self-supervised loss)، مما يمكّن النموذج من الاستفادة من جميع البيانات غير المُعلّمة أثناء عملية التدريب. ونُظهر أن هذه الطريقة تحقق دقةً من أعلى المستويات على عدة مجموعات بيانات قياسية، مع تقليل زمن التدريب مقارنةً بالأساليب الحالية للتعلم شبه المراقب. يمكن الاطلاع على الكود على الرابط: https://github.com/walline/doublematch.

DoubleMatch: تحسين التعلم شبه المراقب باستخدام التعلم الذاتي | أحدث الأوراق البحثية | HyperAI