HyperAIHyperAI
منذ 16 أيام

تحسين الانحدار العميق باستخدام الانتروبي الترتيبية

Shihao Zhang, Linlin Yang, Michael Bi Mi, Xiaoxu Zheng, Angela Yao
تحسين الانحدار العميق باستخدام الانتروبي الترتيبية
الملخص

في مجال الرؤية الحاسوبية، يُلاحَظ غالبًا أن صياغة مسائل الانحدار كمهمات تصنيف تؤدي إلى أداء أفضل. نستعرض هذه الظاهرة الغريبة ونقدم مشتقة توضح أن التصنيف باستخدام دالة الخسارة التقاطعية (cross-entropy loss) يتفوق على الانحدار باستخدام دالة الخسارة التربيعية المتوسطة (mean squared error loss) من حيث القدرة على تعلم تمثيلات مميزة ذات إنتروبيا عالية. استنادًا إلى هذا التحليل، نقترح دالة خسارة مُرتبة للإنتروبيا (ordinal entropy loss) لتشجيع فضاءات تمثيلية ذات إنتروبيا أعلى مع الحفاظ على العلاقات الترتيبية، بهدف تحسين أداء مهام الانحدار. تُظهر التجارب التي أُجريت على مهام انحدار اصطناعية وواقعية أهمية وفوائد زيادة الإنتروبيا في مهام الانحدار.

تحسين الانحدار العميق باستخدام الانتروبي الترتيبية | أحدث الأوراق البحثية | HyperAI