خسارة تباين جينسون-شانون المعممة للتعلم مع التسميات الضوضائية

أظهرت الدراسات السابقة أن الجمع بين دوال الخسارة التي تُثبت مقاومتها للضوضاء، مثل الخطأ المطلق المتوسط (MAE)، ودوال الخسارة القياسية للفئة، مثل الانتروبيا المتقاطعة (CE)، يُعد مفيدًا لتحسين قابلية التعلم. في هذا العمل، نقترح استخدام تباعد جينسون-شانون (Jensen-Shannon divergence) كدالة خسارة مقاومة للضوضاء، ونُظهر أنه يُظهر سلوكًا مثيرًا للإعجاب يتمثل في التداخل بين CE وMAE من خلال معامل مزج قابل للتحكم. بالإضافة إلى ذلك، نُلاحظ ملاحظة جوهرية تتمثل في أن CE تُظهر اتساقًا أقل حول نقاط البيانات المضطربة بالضوضاء. استنادًا إلى هذه الملاحظة، نستخدم نسخة معممة لتباين جينسون-شانون لعدة توزيعات لتشجيع الاتساق حول نقاط البيانات. باستخدام هذه دالة الخسارة، نُظهر نتائج تفوق الحد الأدنى المُحقَّق في كل من البيانات الاصطناعية (CIFAR) والبيانات الحقيقية (مثل WebVision) مع معدلات ضوضاء متفاوتة.