NAS-OoD: البحث عن البنية العصبية لتعميم خارج التوزيع

أظهرت التطورات الحديثة في التعميم خارج التوزيع (OoD) مرونة نماذج التعلم العميق تجاه التحولات في التوزيع. ومع ذلك، تركز الدراسات الحالية على خوارزميات OoD مثل تقليل المخاطر الثابتة، والتعميم عبر المجالات، أو التعلم المستقر، دون أخذ تأثير هياكل النماذج العميقة على التعميم OoD بعين الاعتبار، مما قد يؤدي إلى أداء غير مثالي. تُستخدم طرق البحث في الهياكل العصبية (NAS) لاستكشاف الهياكل بناءً على أدائها على بيانات التدريب، وهو ما قد ينتج عنه تعميم ضعيف للمهام OoD. في هذا العمل، نقترح منهجية بحث في الهيكل العصبي المُصممة لتحسين التعميم OoD (NAS-OoD)، والتي تُحسّن الهيكل من خلال تقييم أدائه على بيانات OoD المُولّدة باستخدام التدرج الهابط. وبشكل خاص، يتم تعلّم مُولّد بيانات لاستخلاص بيانات OoD من خلال تكبير الخسائر المحسوبة بواسطة هياكل عصبية مختلفة، بينما يكون الهدف من بحث الهيكل هو إيجاد المُعاملات المثلى للهيكل التي تقلل من خسائر البيانات OoD المُصطنعة. يتم تحسين مُولّد البيانات والهيكل العصبي معًا بطريقة متكاملة من الطرف إلى الطرف، ويُسهم عملية التدريب الـ minimax في اكتشاف هياكل قوية تُظهر تعميمًا جيدًا أمام مختلف التحولات في التوزيع. أظهرت النتائج التجريبية الواسعة أن NAS-OoD تحقق أداءً متفوقًا على العديد من معايير التعميم OoD، مع استخدام نماذج عميقة تحتوي على عدد أقل بكثير من المعاملات. علاوةً على ذلك، على مجموعة بيانات حقيقية من الصناعة، قلّل المنهج المقترح (NAS-OoD) من معدل الخطأ بأكثر من 70% مقارنةً بالمنهج الأفضل في مجاله، مما يُثبت فعالية المنهج المقترح في التطبيقات العملية.