HyperAIHyperAI

Command Palette

Search for a command to run...

التنظيم باستخدام سالب وهمي للتعلم الذاتي المستمر

Sungmin Cha Kyunghyun Cho Taesup Moon

الملخص

نقدّم إطارًا جديدًا يُعرف بـ"الانتظام الوهمي السلبي" (PNR) لتعلم ذاتي مستمر فعّال (CSSL). يعتمد إطار PNR على استخدام عينات سلبية وهمية ناتجة عن التكبير القائم على النموذج، بحيث تضمن أن التمثيلات الجديدة المُكتسبة لا تتعارض مع ما تم تعلمه سابقًا. وبشكل خاص، بالنسبة لأساليب التعلم التبايني القائمة على InfoNCE، نحدّد عينات سلبية وهمية متماثلة مستمدة من النموذج الحالي والنموذج السابق، ونستخدمها في كلا حدّي الخسارة الرئيسي والانتظام. علاوة على ذلك، نوسع هذه الفكرة لتشمل الأساليب غير التباينية التي لا تعتمد أصلاً على عينات سلبية. بالنسبة لهذه الأساليب، نعرّف العينة السلبية الوهمية بأنها الناتج المُخرَج من النموذج السابق عند معالجة نسخة مختلفة من العينة المرجعية (anchor sample)، ونطبّقها بشكل غير متماثل فقط في حدّ الخسارة الانتظامية. أظهرت النتائج التجريبية الواسعة أن إطار PNR يحقق أداءً من الدرجة الأولى في تعلم التمثيلات خلال التعلم الذاتي المستمر، من خلال تحقيق توازن فعّال بين المرونة (plasticity) والاستقرار (stability).


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp