العينة السالبة تهم: نهضة في تعلم المقاييس للترسيم الزمني

يهدف الترقيم الزمني إلى تحديد لحظة فيديو متماشية مع استعلام طبيعي بلغة طبيعية معينة. تطبق الطرق الحالية عادةً أنابيب كشف أو تقدير على التمثيل المدمج، مع التركيز البحثي على تصميم رؤوس تنبؤ معقدة أو استراتيجيات دمج. بدلاً من ذلك، ومن وجهة نظر تعتبر الترقيم الزمني مشكلة تعلم المقاييس، نقدم شبكة مطابقة متبادلة (Mutual Matching Network - MMN) لنمذجة الشبه مباشرة بين الاستعلامات اللغوية ولحظات الفيديو في فضاء تمثيلي مشترك. يتيح هذا الإطار الجديد للتعلم المقاسات استغلال العينات السلبية بشكل كامل من جوانب جديدة اثنين: بناء أزواج سلبية متعددة الأوضاع في نظام المطابقة المتبادلة واستخراج أزواج سلبية عبر مقاطع الفيديو المختلفة. يمكن لهذه العينات السلبية الجديدة تعزيز تعلم التمثيل المشترك للوضعين من خلال المطابقة المتبادلة المتعددة الأوضاع لتحقيق المعلومات المتبادلة القصوى. تظهر التجارب أن شبكتنا MMN تحقق أداءً تنافسيًا للغاية مقارنة بالطرق الرائدة حاليًا في أربعة مقاييس أساسية للترقيم الفيديو. بناءً على MMN، نقدم حلًا فائزًا لتحدي HC-STVG في ورشة العمل الثالثة لـ PIC. هذا يشير إلى أن التعلم المقاسات لا يزال طريقة واعدة للترقيم الزمني من خلال التقاط الارتباط المتقابل الأساسي في فضاء تمثيلي مشترك. يمكن الوصول إلى الكود من الرابط التالي: https://github.com/MCG-NJU/MMN.