HyperAIHyperAI
منذ 2 أشهر

تعلم التعلم من خلال النقد الذاتي

Antreas Antoniou; Amos Storkey
تعلم التعلم من خلال النقد الذاتي
الملخص

في تعلم النماذج القليلة (few-shot learning)، يتعلم نظام التعلم الآلي من مجموعة صغيرة من الأمثلة المصنفة المتعلقة بمهمة معينة، بحيث يمكنه التعميم إلى أمثلة جديدة لنفس المهمة. نظرًا لعدم توفر عدد كبير من الأمثلة المصنفة في مثل هذه المهام، نرغب في الاستفادة من جميع المعلومات المتاحة لنا. عادةً ما يتعلم النموذج معلومات خاصة بالمهمة من مجموعة تدريب صغيرة (مجموعة الدعم) للتنبؤ على مجموعة تحقق غير مصنفة (مجموعة الهدف). تحتوي مجموعة الهدف على معلومات إضافية خاصة بالمهمة لا يتم استخدامها بواسطة طرق التعلم القليلة الحالية. استخدام أمثلة مجموعة الهدف عبر التعلم الاستدلالي (transductive learning) يتطلب أساليب تتجاوز الأساليب الحالية؛ في وقت الاستدلال، تحتوي مجموعة الهدف فقط على نقاط بيانات مدخلات غير مصنفة، وبالتالي لا يمكن استخدام التعلم التمييزي.في هذا البحث، نقترح إطارًا جديدًا يُسمى الإنتقاد الذاتي والتكيف أو SCA (Self-Critique and Adapt)، والذي يتعلم كيفية تعلم دالة خسارة بدون تصنيف، مقننة كشبكة عصبية. يقوم نموذج أساسي بالتعلم على مجموعة الدعم باستخدام الأساليب الحالية (مثل الانحدار التدرجي العشوائي مع دالة الخسارة المتقاطعة)، ثم يتم تحديثه للمهمة القادمة باستخدام دالة الخسارة التي تم تعلمها. يتم تحسين هذه الدالة الخسارة بدون تصنيف بحيث يحقق النموذج الذي تم تعلمه أداءً أفضل في التعميم. تظهر التجارب أن SCA يقدم معدلات خطأ أقل بكثير مقارنة بالأساسيات التي تستند فقط إلى مجموعة الدعم، وينتج أداءً قياسيًا متقدمًا على Mini-ImageNet و Caltech-UCSD Birds 200.