هل ما زلنا بحاجة إلى التدريب المسبق باستخدام ImageNet في تصنيف مشاهد الاستشعار عن بعد؟

نظرًا لقلة البيانات المُصنّفة، أصبح استخدام النماذج المُدرَّبة مسبقًا باستخدام ImageNet بأسلوب مراقبة القياس الافتراضي في تصنيف مشاهد الاستشعار عن بعد. في الآونة الأخيرة، أصبحت مجموعات بيانات صور الاستشعار عن بعد عالية الدقة (HRRS) الأكبر توفرًا، كما تقدمت تقنيات التعلّم ذاتيًا، مما أثار تساؤلات حول ما إذا كانت المُدرَّبة مسبقًا باستخدام ImageNet بأسلوب مراقبة لا تزال ضرورية لتصنيف مشاهد الاستشعار عن بعد، وهل المُدرَّبة مسبقًا باستخدام صور HRRS بأسلوب مراقبة أو المُدرَّبة مسبقًا باستخدام التعلّم الذاتي على ImageNet ستحقق أداءً أفضل في مهام تصنيف مشاهد الاستشعار عن بعد المستهدفة. ولإجابة هذه الأسئلة، قمنا في هذه الورقة بتدريب نماذج من الصفر، وكذلك بضبط النماذج المُدرَّبة مسبقًا باستخدام التعلّم المراقب والذاتي على ImageNet على عدة مجموعات بيانات صور HRRS. كما قمنا بتقييم قابلية انتقال التمثيلات المُتعلّمة إلى مهام تصنيف مشاهد HRRS، وبيّنا أن التعلّم الذاتي المُدرَّب مسبقًا يتفوّق على التعلّم المراقب، في حين أن أداء التدريب المسبق على HRRS يشبه أداء التدريب الذاتي المسبق أو يكون أدنى قليلاً. وأخيرًا، اقترحنا استخدام نموذج مُدرَّب مسبقًا على ImageNet مع جولة ثانية من التدريب المسبق باستخدام صور HRRS داخل المجال، أي ما يُعرف بالتدريب المسبق المُتكيف حسب المجال (domain-adaptive pre-training). وأظهرت النتائج التجريبية أن التدريب المسبق المُتكيف حسب المجال يؤدي إلى نماذج تحقق أداءً رائدًا في معايير تصنيف مشاهد HRRS. يُمكن الوصول إلى كود المصدر والنموذج المُدرَّب مسبقًا من خلال الرابط التالي: \url{https://github.com/risojevicv/RSSC-transfer}.