هوبير: تحويلة متعددة الخطوات للاستدلال الزماني المكاني

تتناول هذه الورقة مشكلة الاستدلال المركزي حول الكائنات في الفضاء والزمن في مقاطع الفيديو. ويعتمد نهجنا بشكل أساسي على مفهوم استمرارية الكائنات، أي القدرة على التفكير في موقع الكائنات أثناء انتقالها داخل الفيديو مع وجود احتمالات لاختفائها أو تغطيتها أو حملها من قبل كائنات أخرى. غالبًا ما تعاني الطرق القائمة على التعلم العميق من أخطاء متحيزة فضائياً وزمنياً عند تطبيقها على مشكلات استدلال الفيديو. نقترح نموذج "هوبير" (Hopper)، الذي يستخدم نموذجًا متعدد الخطوات (Multi-hop Transformer) لاستدلال استمرارية الكائنات في مقاطع الفيديو. وبمجرد إعطاء فيديو واستعلام عن موقع معين، يقوم "هوبير" باستدلال معلومات من الصور ومسارات الكائنات، بحيث ينتقل تلقائيًا عبر الإطارات الحرجة بطريقة تكرارية لتنبؤ الموقع النهائي للكائن المطلوب. ونُظهر فعالية استخدام دالة خسارة تباينية (contrastive loss) لتقليل التحيزات الفضائية والزمنية. ونقيّم الأداء على مجموعة بيانات CATER، ونجد أن "هوبير" يحقق دقة Top-1 تبلغ 73.2% باستخدام معدل إطارات فقط 1 إطار في الثانية، وذلك من خلال التفاعل مع عدد قليل من الإطارات الحرجة. كما نُظهر أن "هوبير" قادر على إجراء استدلالات طويلة الأمد من خلال إنشاء مجموعة بيانات جديدة تُسمى CATER-h، التي تتطلب استدلالات متعددة الخطوات لتحديد مواقع الكائنات المطلوبة بشكل دقيق.