تعلم الاتصالات الداخلية بين الحزم للتعلم العميق للمقياس

الهدف من التعلم القياسي هو تعلُّم دالة تُمَثِّل العينات في فضاء أبعاد أقل بحيث تكون العينات المشابهة أقرب إلى بعضها مقارنة بالعينات غير المشابهة. وبخاصة، يستخدم التعلم القياسي العميق الشبكات العصبية لتعلُّم هذه الدالة. تعتمد معظم الطرق على دوال خسارة تأخذ بعين الاعتبار فقط العلاقات بين أزواج أو ثلاثيات من العينات، والتي تعود إلى نفس الفئة أو فئتين مختلفتين. ومع ذلك، لا تستكشف هذه الطرق الفضاء المُضَمَّن بشكل كامل. ولحل هذه المشكلة، نقترح منهجًا يعتمد على الشبكات المرسِلة للرسائل (message passing networks) يأخذ بعين الاعتبار جميع العلاقات داخل دفعة صغيرة (mini-batch). ونُحسِّن متجهات التضمين من خلال تبادل الرسائل بين جميع العينات ضمن دفعة معينة، مما يسمح لعملية التدريب بالتميّز بالبنية الشاملة للبيانات. وبما أن ليس جميع العينات متساوية الأهمية في التنبؤ بحدود القرار، نستخدم آلية انتباه (attention mechanism) أثناء تبادل الرسائل، لتمكين كل عينة من تقييم أهمية جيرانها بشكل مناسب. ونحقق نتائج على مستوى الحد الأقصى من الأداء (state-of-the-art) في مهام التجميع والاسترجاع الصوري على مجموعات بيانات CUB-200-2011، Cars196، Stanford Online Products، وIn-Shop Clothes. ولتسهيل الأبحاث المستقبلية، نُقدِّم الكود والنموذج على الرابط التالي: https://github.com/dvl-tum/intra_batch_connections.