HyperAIHyperAI
منذ 3 أشهر

التعلم بعلامات ضوضائية من خلال التحفيز الذاتي المضاد للسمّ المضطرب

Yuanpeng Tu, Boshen Zhang, Yuxi Li, Liang Liu, Jian Li, Jiangning Zhang, Yabiao Wang, Chengjie Wang, Cai Rong Zhao
التعلم بعلامات ضوضائية من خلال التحفيز الذاتي المضاد للسمّ المضطرب
الملخص

جمع مجموعات بيانات كبيرة الحجم أمر بالغ الأهمية لتدريب النماذج العميقة، لكن عملية التسمية (التصنيف) للبيانات تؤدي بالضرورة إلى تسميات مشوهة، مما يشكل تحديًا أمام خوارزميات التعلم العميق. سبق أن حاولت الدراسات السابقة التخفيف من هذه المشكلة من خلال تحديد العينات المشوهة وإزالتها أو تصحيح تسمياتها وفقًا للخصائص الإحصائية (مثل قيم الخسارة) بين العينات التدريبية. في هذه الورقة، نهدف إلى معالجة هذه المشكلة من منظور جديد، من خلال التعمق في الخرائط المميزة العميقة، حيث نلاحظ تجريبيًا أن النماذج المدربة على عينات صحيحة وعينات مُسَمَّة خاطئًا تُظهر توزيعات مميزة في الخصائص النشطة. استنادًا إلى هذه الملاحظة، نقترح منهجية تدريب جديدة وقوية تُسمى "الإغلاق المضاد للضوضاء" (adversarial noisy masking). الفكرة الأساسية تكمن في تقويم الخصائص العميقة باستخدام خطة إغلاق تُوجَّه بواسطة جودة التسمية، والتي تقوم بتعديل ديناميكي لكل من البيانات المدخلة والتسمية معًا، مما يمنع النموذج من التعلّم الزائد على العينات المشوهة. بالإضافة إلى ذلك، تم تصميم مهمة ثانوية لإعادة بناء البيانات المدخلة، حيث توفر إشارات ذاتية تلقائية خالية من الضوضاء، مما يعزز قدرة النموذج على التعميم بشكل طبيعي. يُعدّ هذا المنهج بسيطًا ومرنًا، وقد تم اختباره على مجموعات بيانات صناعية وواقعية تحتوي على ضوضاء، حيث أظهر تحسينات كبيرة مقارنة بالأساليب الرائدة السابقة.