مستودع اللغة لفهم الفيديو الطويل

أصبح اللغويّة أحد الوسائط البارزة في الرؤية الحاسوبية مع انتشار النماذج اللغوية الكبيرة (LLMs). وعلى الرغم من قدرتها على دعم أطوال مدخلات طويلة، فإن فعاليتها في معالجة المعلومات طويلة الأمد تنخفض تدريجيًا مع زيادة طول المدخلات. وتصبح هذه النقطة بالغة الأهمية، خصوصًا في التطبيقات مثل فهم الفيديو طويل المدى. في هذا البحث، نقدّم مخزنًا لغويًا (LangRepo) للنماذج اللغوية الكبيرة، يُحافظ على معلومات موجزة ومنظمة كتمثيل قابل للتفسير (أي تمثيل بالكامل نصيًا). ويتم تحديث هذا المخزن بشكل تدريجي بناءً على قطع فيديو متعددة المقياس. كما نقدّم عمليات كتابة وقراءة تركز على إزالة التكرار في النص، واستخراج المعلومات على مقاييس زمنية مختلفة. وتم تقييم الإطار المقترح على مجموعات بيانات للإجابة على الأسئلة البصرية بدون تدريب مسبق (zero-shot)، بما في ذلك EgoSchema وNExT-QA وIntentQA وNExT-GQA، حيث أظهر أداءً متميزًا مقارنة بأفضل النماذج في حجمه. يمكن الوصول إلى الكود المُستخدم في هذا العمل عبر الرابط: https://github.com/kkahatapitiya/LangRepo.