HyperTransformer: إنشاء النموذج للتعلم القليل بالاعتماد على التصنيف والتعلم القليل شبه المراقب

في هذا العمل، نقترح نموذج HyperTransformer، وهو نموذج مبني على Transformer للتعلم القليل الحشدة المراقب والشبه مراقب، الذي يُولِّد أوزان شبكة عصبية تلافيفية (CNN) مباشرةً من عينات الدعم. وبما أن الاعتماد الذي تُظهره نموذج CNN الصغير على مهمة معينة يتم ترميزه بواسطة نموذج Transformer عالي القدرة، فإننا نُفَصِّل بشكل فعّال بين تعقيد الفضاء الكبير للمهام وتعقيد المهام الفردية. ويُعدّ هذا الأسلوب فعّالاً بشكل خاص بالنسبة إلى هياكل CNN الهدف الصغيرة، حيث لا يكون تعلُّم تضمين ثابت ومستقل عن المهمة هو الخيار الأمثل، ويُحقَّق أداءً أفضل عندما يمكن لمعلومات المهمة أن تُعدِّل جميع معاملات النموذج. أما بالنسبة للنماذج الأكبر، فقد وجدنا أنه يكفي توليد الطبقة الأخيرة فقط لكي نحصل على نتائج تنافسية أو أفضل مقارنةً بالأساليب المتطورة حديثًا، مع الحفاظ على التمايز التلقائي من البداية إلى النهاية.