استكشاف القُوى التكاملية للممثلات الثابتة والمتغيرة التحويلية للتعلم القليل العينات

في العديد من المشكلات الواقعية، يُعد جمع عدد كبير من العينات المُعلَّمة أمرًا غير ممكن. وتعتبر التعلم القليل النموذج (FSL) هو النهج السائد لمعالجة هذه المشكلة، حيث يهدف إلى التكيّف السريع مع فئات جديدة في ظل عدد محدود جدًا من العينات. وقد تم حل مهام FSL بشكل رئيسي من خلال الاستفادة من أفكار التعلم التكراري القائم على التدرج (gradient-based meta-learning) وتقنيات التعلم القائم على المقاييس (metric learning). ومع ذلك، أظهرت الدراسات الحديثة أهمية تمثيلات الميزات القوية باستخدام شبكة تضمين بسيطة، والتي يمكن أن تتفوق على الخوارزميات المعقدة الحالية لـ FSL. في هذا العمل، نبني على هذه الرؤية ونُقدِّم آلية تدريب جديدة تُفرض في آنٍ واحد التكافؤ (equivariance) والتثبيت (invariance) تجاه مجموعة عامة من التحولات الهندسية. وقد استُخدم التكافؤ أو التثبيت بشكل منفصل في الدراسات السابقة؛ ولكن إلى حد علمنا، لم يُستخدم كلاهما معًا من قبل. يسمح التحسين المتزامن لهدفين متناقضين هذين بتمكين النموذج من تعلّم ميزات تُعد مستقلة عن التحولات المُدخلة، فضلًا عن تعلّم ميزات تُشفِّر بنية التحولات الهندسية نفسها. وتساعد هاتان المجموعتان المكملتان من الميزات في التعميم الجيد على فئات جديدة باستخدام عدد قليل جدًا من العينات. ونحقّق تحسينات إضافية من خلال دمج هدف جديد للتأديب الذاتي (self-supervised distillation). تُظهر تجاربنا الواسعة أن حتى دون استخدام التأديب المعرفي (knowledge distillation)، يمكن لطريقة المقترحة أن تتفوّق على أحدث الطرق المتطورة لـ FSL على خمسة مجموعات بيانات شهيرة.