HyperAIHyperAI
منذ 17 أيام

التعلم القليل كتكيف المجال: خوارزمية وتحليل

Jiechao Guan, Zhiwu Lu, Tao Xiang, Ji-Rong Wen
التعلم القليل كتكيف المجال: خوارزمية وتحليل
الملخص

لتمكين التعرف على الفئات غير المرئية باستخدام عينات قليلة فقط، يعتمد التعلم القائم على عدد قليل من الأمثلة (FSL) على المعرفة السابقة المكتسبة من الفئات المرئية. يمثل التحدي الرئيسي في FSL هو أن توزيع الفئات غير المرئية يختلف عن توزيع الفئات المرئية، مما يؤدي إلى أداء ضعيف في التعميم حتى عند تدريب النموذج بشكل متعدد المستويات (meta-training) على الفئات المرئية. يمكن اعتبار هذا الانزياح في التوزيع الناتج عن الفروق بين الفئات كحالة خاصة من انزياح المجال (domain shift). في هذا البحث، ولفترة أولى، نقترح شبكة بروتوبتية للتكيف مع المجال مزودة بآلية انتباه (DAPNA) لمعالجة هذا التحدي بشكل صريح ضمن إطار تعلم متعدد المستويات. بشكل خاص، وباستخدام وحدة انتباه تعتمد على مُحول المجموعة (set transformer)، نُنشئ كل تجربة (episode) من خلال تجزئتها إلى تجربتين فرعيتين دون تداخل في الفئات المرئية، بهدف محاكاة انزياح المجال بين الفئات المرئية وغير المرئية. ولتحقيق تقارب توزيعات الميزات بين التجربتين الفرعيتين باستخدام عينات تدريب محدودة، نستخدم شبكة نقل الميزات مع دالة خسارة مُختلفة بالحد الأدنى (MDD). وبشكل مهم، نقدم تحليلًا نظريًا لتقديم حدود التعلم الخاصة بنموذج DAPNA. وأظهرت التجارب الواسعة أن DAPNA تتفوق على أحدث الطرق في FSL، غالبًا بفارق كبير.