SeqTR: شبكة بسيطة ولكن عالمية للربط البصري

في هذه الورقة، نقترح شبكة بسيطة ولكنها عامة تُسمى SeqTR للمهام المتعلقة بتحديد الموضع البصري، مثل تحديد العبارات (phrase localization)، وفهم التعبيرات الإشارة (referring expression comprehension - REC)، والتقسيم (referring expression segmentation - RES). غالبًا ما تتطلب النماذج القياسية لتحديد الموضع البصري خبرة كبيرة في تصميم هياكل الشبكات ووظائف الخسارة، مما يجعلها صعبة التعميم عبر المهام المختلفة. ولتبسيط وتوحيد النمذجة، نُصِرِّح على تحديد الموضع البصري كمشكلة تنبؤ بنقاط مُشَرَّطة على الصورة والنص المدخلين، حيث تمثل مربع الحدود أو القناع الثنائي كسلسلة من الرموز الإحداثية المنفصلة. ضمن هذا النموذج، تُوحَّد المهام المتعلقة بتحديد الموضع البصري في شبكة SeqTR دون الحاجة إلى فروع أو رؤوس مخصصة لكل مهمة، مثل مُفكّك القناع المتعدد التباعد (convolutional mask decoder) المستخدم في RES، مما يقلل بشكل كبير من تعقيد النمذجة متعددة المهام. علاوةً على ذلك، تستخدم شبكة SeqTR نفس الهدف الأمثل (optimization objective) لجميع المهام، مع استخدام وظيفة خسارة بسيطة تعتمد على الانتروبيا المتقاطعة (cross-entropy loss)، مما يقلل مجددًا من تعقيد تطبيق وظائف خسارة مصممة يدويًا. أظهرت التجارب على خمسة مجموعات بيانات معيارية أن SeqTR تتفوّق (أو تتساوى مع) أحدث النماذج الحالية، مما يثبت أن نهجًا بسيطًا وعامًا لتحديد الموضع البصري ممكن فعليًا. يمكن الوصول إلى الشفرة المصدرية من خلال الرابط التالي: https://github.com/sean-zhuh/SeqTR.