تعلم الخصائص القابلة للنقل باستخدام شبكات التكيف العميقة

تُظهر الدراسات الحديثة أن الشبكة العصبية العميقة قادرة على تعلم خصائص قابلة للنقل تعمم بشكل جيد إلى مهام جديدة في سياق التكيف بين المجالات. ومع ذلك، مع انتقال الخصائص العميقة من العامة إلى الخاصة عبر الشبكة، تنخفض قابلية نقل الخصائص بشكل كبير في الطبقات العليا مع زيادة الاختلاف بين المجالات. لذا، من المهم تقليل التحيز في مجموعة البيانات وتعزيز القابلية للنقل في الطبقات المحددة للمهمة بشكل رسمي. في هذا البحث، نقترح هندسة شبكة جديدة للتكيف العميق (Deep Adaptation Network - DAN)، والتي تعمم الشبكات العصبية التلافيفية العميقة إلى سيناريو التكيف بين المجالات. في DAN، يتم تمثيل الخرائط المخفية لجميع الطبقات المحددة للمهمة في فضاء هيلبرت ذو النواة القابلة لإعادة الإنتاج حيث يمكن مطابقة الوسادات المتوسطة لتوزيعات مختلفة للمجال بشكل صريح. يتم تقليص الاختلاف بين المجالات بشكل إضافي باستخدام طريقة اختيار متعددة النوى الأمثل لمطابقة الوسادة المتوسطة. يمكن لـ DAN تعلم خصائص قابلة للنقل مع ضمانات إحصائية، ويمكنها التوسع بشكل خطي من خلال تقدير غير متحيز لتمbedding النواة (kernel embedding). تُظهر الأدلة التجريبية الواسعة أن الهندسة المقترحة تحقق معدل أخطاء تصنيف الصور الأكثر حداثة على مقاييس التكيف بين المجالات القياسية.