HyperAIHyperAI
منذ 2 أشهر

هل يوفر التعلم الإشرافي المقاوم للتوزيع تصنيفات مقاومة؟

Weihua Hu; Gang Niu; Issei Sato; Masashi Sugiyama
هل يوفر التعلم الإشرافي المقاوم للتوزيع تصنيفات مقاومة؟
الملخص

التعلم الإشرافي المُحصّن توزيعيًا (DRSL) ضروري لبناء أنظمة تعلم آلي موثوقة. عند نشر التعلم الآلي في العالم الحقيقي، يمكن أن تتدهور أداؤه بشكل كبير لأن بيانات الاختبار قد تتبع توزيعًا مختلفًا عن بيانات التدريب. يأخذ DRSL مع الـ f-تباعدات بعين الاعتبار تحول التوزيع الأسوأ من خلال تقليل خسارة التدريب المعاد وزنها بطريقة معادية. في هذا البحث، نقوم بتحليل هذا DRSL، مع التركيز على سيناريو التصنيف. بما أن DRSL يتم صياغته بشكل صريح لسيناريو تحول التوزيع، فإننا نتوقع بطبيعة الحال أن يوفر تصنيفًا محصنًا يمكنه التعامل بقوة مع التوزيعات المنحرفة. ومع ذلك، وبشكل مفاجئ، نثبت أن DRSL ينتهي بتقديم تصنيف يتناسب تمامًا مع توزيع البيانات المعطى للتدريب، وهو أمر متشائم جدًا. يأتي هذا التشاؤم من مصدرَين: الخسائر الخاصة المستخدمة في التصنيف والحقيقة بأن تنوع التوزيعات التي يحاول DRSL أن يكون محصنًا منها واسع جدًا. مستوحى من تحليلنا، نقترح DRSL بسيطًا يتغلب على هذا التشاؤم ويظهر فعاليته بالتجربة العملية.