HyperAIHyperAI
منذ 17 أيام

DecAug: التعميم خارج التوزيع من خلال تمثيل الميزات المفككة وتعزيز الدلالة

Haoyue Bai, Rui Sun, Lanqing Hong, Fengwei Zhou, Nanyang Ye, Han-Jia Ye, S.-H. Gary Chan, Zhenguo Li
DecAug: التعميم خارج التوزيع من خلال تمثيل الميزات المفككة وتعزيز الدلالة
الملخص

بينما تُظهر التعلم العميق قدرتها القوية على التعامل مع البيانات المستقلة والموزعة بشكل متماثل (IID)، فإنها غالبًا ما تعاني من مشكلة التعميم خارج التوزيع (OoD)، حيث تأتي بيانات الاختبار من توزيع مختلف عن توزيع التدريب. يُعد تصميم إطار عام للتعميم خارج التوزيع ينطبق على مجموعة واسعة من التطبيقات أمرًا صعبًا، وذلك أساسًا بسبب التحولات الممكنة في الارتباط (correlation shift) والتنوع (diversity shift) التي تحدث في العالم الحقيقي. تعتمد معظم الطرق السابقة على حل نوع معين من التحولات التوزيعية، مثل التحول بين المجالات أو التمديد (extrapolation) للارتباط. وللتغلب على هذه المشكلة، نقترح "DecAug"، وهي طريقة جديدة تعتمد على تمثيل مميزات مفككة وتعزيز دلالي، لتحسين التعميم خارج التوزيع. تقوم "DecAug" بفصل الميزات المرتبطة بالفئة عن الميزات المرتبطة بالسياق. وتتضمن الميزات المرتبطة بالفئة معلومات سببية حول الكائن المستهدف، بينما تمثل الميزات المرتبطة بالسياق السمات، والأنماط، والخلفيات، أو المشاهد التي تُسهم في التحول التوزيعي بين بيانات التدريب والاختبار. يتم تحقيق هذا الفصل من خلال تقويم المتجهات (orthogonalizing) المشتقات (بخصوص الميزات الوسطية) الخاصة بخسارة التنبؤ بفئات الكائنات وفئات السياق. علاوةً على ذلك، نقوم بتطبيق تكبير مبني على المشتقات (gradient-based augmentation) على الميزات المرتبطة بالسياق لتعزيز مقاومة التمثيلات المُتعلّمة. أظهرت النتائج التجريبية أن "DecAug" تتفوق على الطرق الرائدة الأخرى في مجموعة متنوعة من مجموعات بيانات OoD، مما يجعلها واحدة من القليلة جدًا من الطرق القادرة على التعامل مع أنواع مختلفة من تحديات التعميم خارج التوزيع.