HyperAIHyperAI

Command Palette

Search for a command to run...

CODE-CL: تصحيح التدرج القائم على المُحدِّد للتعلم العميق المستمر

Marco Paul E. Apolinario Sakshi Choudhary Kaushik Roy

الملخص

التعلم المستمر (CL) – أي القدرة على اكتساب المفاهيم الجديدة ودمجها تدريجيًا – أمر ضروري للأنظمة الذكية لتمكينها من التكيف مع البيئات الديناميكية. ومع ذلك، يعاني الشبكات العصبية العميقة من نسيان كارثي (CF) عند تعلم المهام تسلسليًا، حيث يُحتمل أن تُمحى المعرفة المكتسبة سابقًا نتيجة تدريبها على مهام جديدة. ولحل هذه المشكلة، اعتمد النهج الحديث على تقييد التحديثات ضمن فضاءات متعامدة باستخدام تحليل المتجهات التدرجية، مما يُسهم في الحفاظ على الاتجاهات المهمة للمتجهات التدرجية الخاصة بالمهام السابقة. وعلى الرغم من فعالية هذه الأساليب في تقليل النسيان، إلا أنها تُضعف بشكل غير مقصود نقل المعرفة إلى الأمام (FWT)، خاصة عندما تكون المهام مرتبطة ارتباطًا عاليًا. في هذا العمل، نقترح طريقة جديدة تُسمى CODE-CL (الاستخدام المبني على مصفوفة المفاهيم لتخطيط التدرج في التعلم العميق المستمر)، والتي تعتمد على تمثيلات مصفوفة المفاهيم، وهي شكل من أشكال إعادة بناء منظمة، لمعالجة المهام المرتبطة ارتباطًا عالٍ بشكل تكيفي. تقلل CODE-CL من النسيان الكارثي من خلال إسقاط التدرجات على فضاءات جزئية متعامدة وهمية لفضاءات الميزات الخاصة بالمهام السابقة، في الوقت نفسه تُعزز من نقل المعرفة إلى الأمام. وتُحقق ذلك من خلال تعلُّم توليف خطي لاتجاهات الأساس المشتركة، مما يسمح بموازنة فعّالة بين الاستقرار والمرونة، ونقل المعرفة بين تمثيلات الميزات المدخلة المتداخلة. وقد أثبتت التجارب الواسعة على معايير التعلم المستمر كفاءة CODE-CL، حيث أظهرت أداءً متفوقًا، وتقليلًا في النسيان، وتحسينًا في نقل المعرفة إلى الأمام مقارنةً بالأساليب الرائدة في المجال.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
CODE-CL: تصحيح التدرج القائم على المُحدِّد للتعلم العميق المستمر | مستندات | HyperAI