HyperAIHyperAI
منذ 2 أشهر

متا-SGD: التعلم السريع للتعلم القليل الطلقات

Zhenguo Li; Fengwei Zhou; Fei Chen; Hang Li
متا-SGD: التعلم السريع للتعلم القليل الطلقات
الملخص

التعلم القليل (Few-shot learning) يشكل تحديًا للخوارزميات التي تتعلم كل مهمة بشكل منفصل ومن الصفر. بالمقابل، يقوم التعلم الميتا (Meta-learning) بتعلم ميتا-متعلم من العديد من المهام ذات الصلة يمكنه تعلم مهمة جديدة بدقة أكبر وسرعة أكبر باستخدام أمثلة أقل، حيث يكون اختيار الميتا-متعلمين أمرًا حاسمًا. في هذا البحث، نطور Meta-SGD، وهو ميتا-متعلم قابل للتدريب بسهولة يشبه خوارزمية التدرج العشوائي (SGD)، يمكنه تهيئة وتكييف أي متعلم قابل للاشتقاق في خطوة واحدة فقط، سواء في التعلم الإشرافي أو التعلم التعزيزي. بالمقارنة مع الميتا-متعلم الشائع LSTM، فإن Meta-SGD هو أبسط من الناحية المفاهيمية وأسهل في التنفيذ ويمكن تعلمه بكفاءة أعلى. بالمقارنة مع أحدث الميتا-متعلمين MAML، فإن Meta-SGD يتمتع بسعة تخزينية أعلى بكثير من خلال تعلم كيفية التعلم ليس فقط في تهيئة المتعلم ولكن أيضًا في اتجاه تحديث المتعلم ومعدل التعلم، وذلك كله ضمن عملية واحدة للمETA-التعلم. يظهر Meta-SGD أداءً تنافسيًا عاليًا في التعلم القليل على مستويات الانحدار والتصنيف والتعلم التعزيزي.

متا-SGD: التعلم السريع للتعلم القليل الطلقات | أحدث الأوراق البحثية | HyperAI