تحسين التكيف في وقت الاختبار للعمومية المجالية

التحدي الرئيسي في تعميم المجال (DG) هو التعامل مع مشكلة التحول في التوزيع بين بيانات التدريب والاختبار. تشير الدراسات الحديثة إلى أن تدريب وقت الاختبار (TTT)، الذي يقوم بتكيف النموذج المتعلم باستخدام بيانات الاختبار، قد يكون حلاً واعداً لهذه المشكلة. عموماً، تعتمد استراتيجية TTT أداءها على عاملين رئيسيين: اختيار مهمة مساعدة TTT مناسبة للتحديث وتحديد المعلمات الموثوقة التي يجب تحديثها خلال مرحلة الاختبار. تشير كل من الأعمال السابقة وتجاربنا إلى أنه إذا لم يتم النظر بشكل صحيح في هذين العاملين، فقد لا يحسن TTT النموذج المتعلم بل قد يكون ضاراً به. يتناول هذا العمل هذين العاملين من خلال اقتراح طريقة تكيف متقدمة وقت الاختبار (ITTA). أولاً، بدلاً من تحديد هدف مساعد بطريقة تقديرية، نقترح خسارة ثبات قابلة للتعلم للمهمة TTT، والتي تحتوي على معلمات قابلة للتعلم يمكن ضبطها نحو تحقيق تناسق أفضل بين مهمتنا TTT والمهمة الرئيسية للتنبؤ. ثانيًا، نقدم معلمات متكيفة إضافية للنموذج المدرب، ونقترح تحديث هذه المعلمات فقط خلال مرحلة الاختبار. من خلال التجارب الواسعة النطاق، نظهر أن الاستراتيجيتين المقترحتين تكونان مفيدتين للنموذج المتعلم (انظر الشكل 1)، وأن ITTA يمكن أن تحقق أداءً فائقًا بالمقارنة مع الأساليب الحالية الأكثر تقدمًا في عدة مقاييس لـ DG. الكود متاح على الرابط https://github.com/liangchen527/ITTA.