إغلاق الفجوة بين التعلم متعدد المهام والتعلم التكيفي: نحو تدريب فعّال وتكيف فعّال

يهدف التعلم متعدد المهام (MTL) إلى تحسين التعميم لعدة مهام مرتبطة من خلال تعلّمها بشكل مشترك. وعلى النقيض من ذلك، يتيح التعلم التلقيّ (meta-learning) الحديث، بجانب مخطط التدريب المشترك، معالجة مهام غير مرئية ومتاحة بكمية محدودة من العينات أثناء مرحلة الاختبار، بهدف التكيّف السريع معها. وعلى الرغم من الفروق الدقيقة بين MTL والتعلم التلقيّ من حيث صياغة المشكلة، فإن كلا النموذجين يشتركان في رؤية واحدة مفادها أن البنية المشتركة بين المهام التدريبية الحالية يمكن أن تؤدي إلى تعميم وتكيّف أفضل. في هذه الورقة، نتقدّم خطوة مهمة نحو فهم العلاقة الضيقة بين هذين النموذجين من خلال تحليل نظري وتحقيق تجريبي. نظرًا، نُظهر أولًا أن MTL يشترك في نفس صيغة التحسين مع فئة من خوارزميات التعلم التلقيّ القائمة على التدرج (GBML). ثم نُثبت أن الدوال التنبؤية التي يتعلمها MTL وGBML تكون قريبة في حالات الشبكات العصبية المُفرطة التعميم مع عمق كافٍ. وبشكل خاص، يشير هذا النتيجة إلى أن التنبؤات التي تُقدّمها هاتين النموذجين تكون متشابهة عند تطبيقها على نفس المهمة غير المرئية. تجريبيًا، نُثبت نتائجنا النظرية من خلال إظهار أن MTL، عند تنفيذها بشكل مناسب، يُصبح منافسًا قويًا للخوارزميات الحديثة من GBML في مجموعة من معايير التصنيف الصوري بعينات قليلة. وبما أن الخوارزميات الحالية من GBML تتطلب غالبًا عمليات تحسين ثنائية المستوى من الدرجة الثانية، فإن منهجنا من الدرجة الأولى (MTL) يكون أسرع بمرتبة واحدة على المجموعات الكبيرة مثل mini-ImageNet. نعتقد أن هذا العمل يمكن أن يساعد في تقريب الفجوة بين هذين النموذجين، ويُقدّم بديلًا حسابيًا فعّالًا للتعلم التلقيّ القائم على التدرج، مع الحفاظ على القدرة على التكيّف السريع مع المهام.