MoReVQA: استكشاف النماذج المعيارية للاستدلال في الإجابة على الأسئلة حول الفيديو

يتناول هذا البحث مسألة الإجابة على الأسئلة المتعلقة بالفيديوهات (videoQA) من خلال إطار تفكير متعدد المراحل ومتعدد الوحدات، يتم تحليله إلى مراحل منفصلة. وقد أظهرت الطرق الوحدوية السابقة إمكانات واعدة من خلال مرحلة تخطيط واحدة غير مبنية على المحتوى البصري. ومع ذلك، من خلال نموذج أساسي بسيط وفعال، نلاحظ أن مثل هذه الأنظمة قد تؤدي إلى سلوك هش في الممارسة عند مواجهة بيئات إجابة صعبة على الفيديو. وبالتالي، على عكس الطرق التقليدية ذات المرحلة الواحدة للتخطيط، نقترح نظامًا متعدد المراحل يتضمن معالج حدث، ومرحلة تثبيت (grounding)، ومرحلة تفكير نهائية، مدعومة بذاكرة خارجية. وتُنفَّذ جميع المراحل دون تدريب، باستخدام تقنيات التحفيز القليلة (few-shot prompting) على النماذج الكبيرة، مما يُنتج نواتج وسيطة قابلة للتفسير في كل مرحلة. وبتحليل التعقيدات الكامنة في التخطيط والمهام، يحقق منهجنا، MoReVQA، تحسينًا ملحوظًا مقارنة بالعمل السابق على معايير معيارية لاختبار إجابة الأسئلة على الفيديو (NExT-QA، iVQA، EgoSchema، ActivityNet-QA)، مع تحقيق نتائج من الطراز الرائد (state-of-the-art)، كما يمتد تطبيقه إلى مهام ذات صلة (مثل إجابة الأسئلة المرتبطة بالفيديو، وكتابة عناوين فقرات للفيديو).