HyperAIHyperAI
منذ شهر واحد

التدريب الذاتي المنظم بالثقة

Yang Zou; Zhiding Yu; Xiaofeng Liu; B. V. K. Vijaya Kumar; Jinsong Wang
التدريب الذاتي المنظم بالثقة
الملخص

التطورات الحديثة في تكيف المجال تظهر أن التدريب العميق الذاتي يمثل وسيلة قوية للتكيف غير المشرف على المجال. غالبًا ما تتضمن هذه الطرق عملية تكرارية تتضمن التنبؤ في مجال الهدف ثم استخدام التنبؤات الثابتة كعلامات مزيفة لإعادة التدريب. ومع ذلك، نظرًا لأن العلامات المزيفة قد تكون مشوهة، يمكن أن يؤدي التدريب الذاتي إلى وضع ثقة زائدة في العلامات الخاطئة، مما يؤدي إلى حلول منحرفة مع أخطاء متراكمة. لحل هذه المشكلة، نقترح إطارًا للتدريب الذاتي المنظم بالثقة (CRST)، والذي يتم صياغته كتدريب ذاتي منظم. طريقتنا تعتبر العلامات المزيفة كمتغيرات خفية مستمرة يتم تحسينها بشكل مشترك عبر التحسين البديل. نقترح نوعين من تنظيم الثقة: تنظيم العلامة (LR) وتنظيم النموذج (MR). CRST-LR تولد علامات مزيفة ناعمة بينما CRST-MR تشجع على سلاسة الإخراج الشبكي. التجارب الواسعة على تصنيف الصور وتقسيم المعنى تظهر أن CRSTs تتفوق على نظيراتها غير المنظمة بأداء رائد في المجال. الكود والنموذج المستخدمان في هذا العمل متوفرين على الرابط https://github.com/yzou2/CRST.

التدريب الذاتي المنظم بالثقة | أحدث الأوراق البحثية | HyperAI