HyperAIHyperAI

Command Palette

Search for a command to run...

التغلب على النسيان الكارثي في التعلم القليل التدريجي من خلال العثور على الحدود المسطحة

Guangyuan Shi Jiaxin Chen Wenlong Zhang Li-Ming Zhan Xiao-Ming Wu

الملخص

يُعالج هذا البحث التعلم القليل التدريجي (incremental few-shot learning)، والذي يتطلب من النموذج التعرف المستمر على فئات جديدة باستخدام عدد قليل جدًا من الأمثلة المقدمة. تُظهر دراستنا أن الطرق الحالية تعاني بشدة من "النسيان الكارثي" (catastrophic forgetting)، وهي مشكلة معروفة في التعلم التدريجي، وتتفاقم هذه المشكلة بسبب نقص البيانات وعدم توازنها في البيئة القليلة الأمثلة. وتشير تحليلاتنا إلى أن لمنع النسيان الكارثي، يجب اتخاذ إجراءات في المرحلة الأولية – أي في تدريب الفئات الأساسية – وليس في جلسات التعلم القليل التدريجي اللاحقة. ولهذا، نقترح البحث عن نقاط محلية مسطحة (flat local minima) لدالة الهدف الخاصة بتدريب الفئات الأساسية، ثم تحسين معلمات النموذج داخل هذه المنطقة المسطحة عند التعامل مع المهام الجديدة. وبهذا الأسلوب، يمكن للنموذج تعلم الفئات الجديدة بكفاءة مع الحفاظ على الفئات القديمة. وتُظهر النتائج التجريبية الشاملة أن منهجنا يتفوق على جميع الطرق الرائدة السابقة، ويتقارب بشكل كبير مع الحد الأقصى التقريبي الممكن. ويمكن الاطلاع على كود المصدر عبر الرابط: https://github.com/moukamisama/F2M.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
التغلب على النسيان الكارثي في التعلم القليل التدريجي من خلال العثور على الحدود المسطحة | مستندات | HyperAI