HyperAIHyperAI
منذ 2 أشهر

التعلم الميتا باستخدام التحسين المحدب القابل للمفاضلة

Kwonjoon Lee; Subhransu Maji; Avinash Ravichandran; Stefano Soatto
التعلم الميتا باستخدام التحسين المحدب القابل للمفاضلة
الملخص

تستند العديد من نهج التعلم الميتا (meta-learning) للتعلم القليل الإطارات (few-shot learning) على متعلمات أساسية بسيطة مثل تصنيفات الجار الأقرب (nearest-neighbor classifiers). ومع ذلك، حتى في نظام التعلم القليل الإطارات، يمكن للمتنبئين الخطيين الذين تم تدريبهم بشكل تمييزي أن يقدموا تعميمًا أفضل. نقترح استخدام هذه المتنبئين كمتعلمات أساسية لتعلم التمثيلات في سياق التعلم القليل الإطارات ونظهر أنها تقدم توازنًا أفضل بين حجم الميزات والأداء عبر مجموعة من مقاييس الاعتراف القليل الإطارات. هدفنا هو تعلم غمرات ميزات (feature embeddings) تحقق تعميمًا جيدًا بموجب قاعدة تصنيف خطي للتصنيفات الجديدة. لحل هذا الهدف بكفاءة، نستغل خاصيتين لمصنفات الخطية: الاشتقاق الضمني لشروط الأمثلية للمشكلة المحدبة والصيغة الثنائية لمشكلة الأمثلية. هذا يسمح لنا باستخدام غمرات ذات أبعاد عالية مع تحسين التعميم بزيادة متواضعة في العبء الحسابي. يحقق نهجنا، الذي أطلق عليه اسم MetaOptNet، أداءً رائدًا في مقاييس التعلم القليل الإطارات لـ miniImageNet و tieredImageNet و CIFAR-FS و FC100. شفرتنا متاحة على الرابط https://github.com/kjunelee/MetaOptNet.

التعلم الميتا باستخدام التحسين المحدب القابل للمفاضلة | أحدث الأوراق البحثية | HyperAI