HyperAIHyperAI
منذ 17 أيام

MDFlow: التعلم غير المراقب لتدفق بصري من خلال تبادل المعرفة المستندة إلى الموثوقية

Lingtong Kong, Jie Yang
MDFlow: التعلم غير المراقب لتدفق بصري من خلال تبادل المعرفة المستندة إلى الموثوقية
الملخص

أظهرت الدراسات الحديثة أن تدفق الضوء يمكن تعلمه بواسطة الشبكات العميقة من أزواج صور غير مُعلّمة، استنادًا إلى افتراض ثبات السطوع وقبلية السلس. وتُضيف الأساليب الحالية مصطلحًا إضافيًا للتأقلم (augmentation regularization) لتحقيق مراقبة ذاتية مستمرة، وقد ثبتت فعاليته في مناطق التطابق الصعبة. ومع ذلك، فإن هذا الأسلوب يُعزز أيضًا التطابق الخاطئ الضروري في البيئة غير المُعلَّمة، مما يعيق عملية التعلم نحو الحل الأمثل. ولحل هذا التناقض، نقترح إطارًا جديدًا للتنقيح المتبادل (mutual distillation) لنقل المعرفة الموثوقة ذهابًا وإيابًا بين الشبكة المُعلِّمة (teacher) والشبكة المُتعلِّمة (student) لتحقيق تحسين متزامن. وبشكل محدد، وباستخدام تقديرات من أسلوب غير مُعلَّم جاهز (off-the-shelf)، نُعرّف آلية اختيار موثوقية لاستخلاص التطابقات الجيدة نسبيًا، ثم نُطبّق تنويعات توليد بيانات متنوعة لاستخلاص معرفة كافية وموثوقة من الشبكة المُعلِّمة إلى الشبكة المُتعلِّمة. وبفضل الطبيعة المنفصلة (decouple) لطريقتنا، يمكننا اختيار بنية شبكية أقوى للطالب لضمان تعلم كافٍ. في النهاية، يتم استخدام تنبؤات الطالب المحسَّنة لنقل المعرفة مرة أخرى إلى الشبكة المُعلِّمة بكفاءة دون تكاليف إضافية في البيئة الفعلية للتطبيق. بدلًا من صياغة المهمة كمهمة مُعلَّمة، وجدنا أن إدخال حد إضافي غير مُعلَّم لتعلم متعدد الأهداف يؤدي إلى أفضل النتائج النهائية. أظهرت التجارب الواسعة أن طريقتنا، المُسمَّاة MDFlow، تحقق أداءً رائدًا في الوقت الحقيقي وقدرة تعميم عالية على معايير صعبة. يمكن الوصول إلى الكود من خلال: https://github.com/ltkong218/MDFlow.