BAM-DETR: كاشف اللحظات المُحاذاة للحدود لتحديد الجمل الزمنية في الفيديوهات

يهدف تأطير الجملة الزمنية إلى تحديد اللحظات ذات الصلة بوصف لغوي. مؤخرًا، حققت النماذج المشابهة لـ DETR تقدمًا ملحوظًا من خلال التنبؤ بموقع المركز وطول اللحظة المستهدفة. ومع ذلك، تعاني هذه النماذج من مشكلة عدم توافق المركز التي تنشأ عن الغموض الذاتي لمواقع مراكز اللحظات، مما يؤدي إلى تنبؤات غير دقيقة. لحل هذه المشكلة، نقترح صياغة جديدة للحظة تستند إلى الحدود. في نموذجنا، لم يعد على النموذج أن يجد المركز الدقيق بل يكفي أن يتوقع أي نقطة ربط داخل الفاصل الزمني، ومنها يتم تقدير الحدود مباشرة. بناءً على هذا الفكرة، صممنا محول كشف اللحظات المنسجم مع الحدود، مجهز بعملية فك شفرة ثنائية المسار. وبشكل خاص، يقوم بتحسين النقطة المرتبطة والحدود داخل المسارات المتوازية باستخدام انتباه عالمي وانتباه مركز على الحدود على التوالي. يسمح هذا التصميم المنفصل للنموذج بالتركيز على المناطق المرغوبة، مما يمكنه من تحسين دقيق للتنبؤات الزمنية. بالإضافة إلى ذلك، نقترح طريقة تصنيف قائمة على الجودة، مما يضمن أولوية المقترحات ذات جودة التحديد العالية على تلك غير الكاملة. أثبتت التجارب على ثلاثة مقاييس فعالية الأساليب المقترحة. يمكن الوصول إلى الكود في الرابط التالي: https://github.com/Pilhyeon/BAM-DETR.