التحسين الذاتي الآمن للتكيف الحدودي القائم على المحولات

يهدف التكييف غير المراقب للنطاق (UDA) إلى الاستفادة من مجال مصدر غني بالعلامات لحل المهام على مجال مستهدف متعلق ولكنه غير مُعلَّم. ويُعدّ هذا التحدي صعبًا بشكل خاص عندما يكون هناك فجوة كبيرة بين المجال المصدري والمجال المستهدف. في هذا البحث، نقترح حلًا جديدًا يُسمّى SSRT (التحسين الآمن الذاتي للتكيف المستند إلى المحولات)، والذي يحقق تحسينًا من جهتين. أولاً، مستلهمين من النجاح الكبير للمحولات البصرية في مهام بصرية متنوعة، نزوّد SSRT ببنية أساسية قائمة على المحولات. ووجدنا أن الجمع بين المحولات البصرية والتكيف العدواني البسيط يتفوق على أفضل النتائج المبلغ عنها المبنية على الشبكات العصبية التلافيفية (CNN) في معيار DomainNet الصعب، مما يُظهر قدرة قوية على تمثيل الميزات القابلة للنقل. ثانيًا، لخفض خطر انهيار النموذج وتحسين فعالية نقل المعرفة بين المجالات ذات الفجوة الكبيرة، نقترح استراتيجية تُسمّى التحسين الآمن الذاتي. وبشكل خاص، يستخدم SSRT تنبؤات بيانات المجال المستهدف التي تم تزويرها لتحسين النموذج. وبما أن قدرة المحولات البصرية كبيرة، وتصبح التنبؤات في هذه المهام الصعبة غالبًا مشوّشة، فقد صُمّمت آلية تدريب آمنة تُعدّل تكوين التعلم تلقائيًا. وقد أُجريت تقييمات واسعة على عدة معايير شائعة لـ UDA، وحقق SSRT أداءً متميزًا ومستقرًا في جميعها، بما في ذلك 85.43% على Office-Home، و88.76% على VisDA-2017، و45.2% على DomainNet.