الانتشار التضميني: منحنى أملس للفئة القليلة المعينات

التصنيف بقليل من الأمثلة يُعدّ تحديًا لأن توزيع البيانات في مجموعة التدريب قد يختلف بشكل كبير عن توزيع مجموعة الاختبار، نظرًا لعدم تداخل الفئات بينهما. وغالبًا ما يؤدي هذا الانزياح في التوزيع إلى أداء ضعيف في التعميم. وقد أظهرت تقنية تمهيد المتنوع (manifold smoothing) قدرتها على معالجة مشكلة الانزياح في التوزيع من خلال تمديد حدود القرار وتقليل الضوضاء في تمثيلات الفئات. علاوةً على ذلك، يُعدّ تمهيد المتنوع عنصرًا أساسيًا في خوارزميات التعلم شبه المراقب والتعلم التحويلي (transductive learning). في هذه الدراسة، نقترح استخدام انتشار التضمين (embedding propagation) كمُنظِّم غير معتمد على معاملات (non-parametric regularizer) غير مراقب لتحسين تمهيد المتنوع في تصنيف القليل من الأمثلة. يعتمد انتشار التضمين على استعمال تداخلات بين الميزات المستخرجة من شبكة عصبية، بناءً على رسم بياني للتشابه. ونُظهر تجريبيًا أن انتشار التضمين يؤدي إلى تشكيل متعدد أبعاد للتمثيلات (embedding manifold) أكثر سلاسة. كما نُظهر أن تطبيق انتشار التضمين على تصنيفات تحويلية يحقق نتائج جديدة قياسية على مجموعات البيانات mini-Imagenet وtiered-Imagenet وImagenet-FS وCUB. بالإضافة إلى ذلك، نُظهر أن انتشار التضمين يُحسّن بشكل متسق دقة النماذج في سيناريوهات متعددة للتعلم شبه المراقب، بنسبة تصل إلى 16 نقطة مئوية. ويمكن دمج عملية انتشار التضمين المقترحة بسهولة كطبقة غير معتمدة على معاملات داخل شبكة عصبية. ونُزوّد برمز التدريب وأمثلة استخدام في الرابط التالي: https://github.com/ElementAI/embedding-propagation.