التدريب الموجه للتقسيم شبه المشرف على المستويات الخاصة

رغم التحسينات الكبيرة التي طرأت على طرق تقسيم النماذج، فإن النهج السائد لا يزال يعتمد على صور تدريب مُشَاهَدَة بالكامل، والتي تكون متعبة للحصول عليها. لتخفيض هذا الاعتماد وتعزيز النتائج، تستفيد الأساليب شبه المُشرفة من البيانات غير المشاهدة كإشارة تدريب إضافية تحد من الانحراف الزائد إلى العينات المشاهدة. في هذا الإطار، نقدم خيارات تصميم جديدة تساهم بشكل كبير في تحسين نماذج التقطير بين المعلم والطالب. بصفة خاصة، نحن (أ) نحسن منهج التقطير بإدخال مرحلة "إشعال موجه" جديدة، و(ب) نقيم هياكل مختلفة لتقسيم النماذج بالإضافة إلى شبكات العمود الفقري والاستراتيجيات المسبقة للتدريب. على عكس الأعمال السابقة التي تعتمد فقط على البيانات المُشرفة خلال فترة إشعال نموذج الطالب، نحن أيضًا نستفيد من إرشاد نموذج المعلم لاستخدام البيانات غير المشاهدة خلال فترة الإشعال. يؤدي منهج التقطير المحسن لدينا إلى تحسينات كبيرة على النتائج الرائدة سابقًا. على سبيل المثال، في مجموعة بيانات Cityscapes (مدينة المناظر)، نحن نحسن قيم mask-AP (دقة القناع) من 23.7 إلى 33.9 عند استخدام العلامات لنسبة 10٪ فقط من الصور، وفي مجموعة بيانات COCO (المجموعة الشهيرة)، نحن نحسن قيم mask-AP من 18.3 إلى 34.1 عند استخدام العلامات لنسبة 1٪ فقط من بيانات التدريب.