قيود التوافق البصري للإRecognition المستمر للغة الإشارة

تهدف الاعتراف باللغة الإشارة المستمرة القائمة على الرؤية (CSLR) إلى التعرف على الإشارات غير المفصّلة من تدفقات الصور. ومن بين المشكلات الأكثر حرجة في تدريب نماذج CSLR، تُعدّ الازدواجية (Overfitting) واحدة من أبرزها، وقد أظهرت الدراسات السابقة أن خطة التدريب التكراري (iterative training scheme) تُقدّم حلًا جزئيًا لهذه المشكلة، مع تكلفة إضافية في زمن التدريب. وفي هذه الدراسة، نعيد النظر في خطة التدريب التكراري المُستخدمة في أحدث أعمال CSLR، وندرك أن التدريب الكافي لاستخراج الميزات (feature extractor) يُعدّ أمرًا حاسمًا لحل مشكلة الازدواجية. ولهذا، نقترح خاصية تطابق بصري (Visual Alignment Constraint - VAC) لتعزيز استخراج الميزات من خلال إشراف تطابق بصري. وتحديدًا، تتكون VAC المقترحة من خسارتين مساعدين: الأولى تركز فقط على الميزات البصرية، بينما تفرض الثانية تطابقًا في التنبؤ بين استخراج الميزات ووحدة التطابق (alignment module). بالإضافة إلى ذلك، نقترح معيارين لقياس الازدواجية من خلال قياس عدم اتساق التنبؤ بين استخراج الميزات ووحدة التطابق. أظهرت النتائج التجريبية على مجموعتي بيانات CSLR الصعبتين أداءً متميزًا، حيث تجعل VAC الشبكات المستخدمة في CSLR قابلة للتدريب بشكل متكامل (end-to-end)، وتحقق أداءً تنافسيًا.