HyperAIHyperAI

Command Palette

Search for a command to run...

خسارة تباين جينسون-شانون المعممة للتعلم مع التسميات الضوضائية

Erik Englesson Hossein Azizpour

الملخص

أظهرت الدراسات السابقة أن الجمع بين دوال الخسارة التي تُثبت مقاومتها للضوضاء، مثل الخطأ المطلق المتوسط (MAE)، ودوال الخسارة القياسية للفئة، مثل الانتروبيا المتقاطعة (CE)، يُعد مفيدًا لتحسين قابلية التعلم. في هذا العمل، نقترح استخدام تباعد جينسون-شانون (Jensen-Shannon divergence) كدالة خسارة مقاومة للضوضاء، ونُظهر أنه يُظهر سلوكًا مثيرًا للإعجاب يتمثل في التداخل بين CE وMAE من خلال معامل مزج قابل للتحكم. بالإضافة إلى ذلك، نُلاحظ ملاحظة جوهرية تتمثل في أن CE تُظهر اتساقًا أقل حول نقاط البيانات المضطربة بالضوضاء. استنادًا إلى هذه الملاحظة، نستخدم نسخة معممة لتباين جينسون-شانون لعدة توزيعات لتشجيع الاتساق حول نقاط البيانات. باستخدام هذه دالة الخسارة، نُظهر نتائج تفوق الحد الأدنى المُحقَّق في كل من البيانات الاصطناعية (CIFAR) والبيانات الحقيقية (مثل WebVision) مع معدلات ضوضاء متفاوتة.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp