حقول زمنية غير متزامنة لتمييز الأفعال

الحركات ليست مجرد حركات ومسارات: نطبخ لنأكل ونمسك الكوب لنشرب منه. لتحقيق فهم شامل للفيديوهات، يجب التخطي إلى ما هو أبعد من نمذجة المظهر والتركيز على سلسلة الأنشطة، بالإضافة إلى الهياكل العليا مثل النوايا. ولكن كيف نقوم بنمذجة وتفسير هذه الجوانب؟ نقترح استخدام نموذج CRF الزمني المتصل بالكامل لاستدلال جوانب مختلفة من الأنشطة التي تشمل الأشياء والحركات والنوايا، حيث يتم التنبؤ بالإمكانات بواسطة شبكة عميقة. التدريب الشامل لمثل هذه النماذج البنيوية هو مسعى صعب: يتطلب إجراء الاستدلال والتعلم بناء دفعات صغيرة تتكون من مقاطع فيديو كاملة، مما يؤدي إلى دفعات صغيرة تحتوي على عدد قليل فقط من مقاطع الفيديو. هذا يسبب ارتباطًا عاليًا بين نقاط البيانات ويؤدي إلى انهيار خوارزمية الانتشار العكسي. لمعالجة هذا التحدي، نقدم طريقة استدلال متغيرة غير متزامنة تسمح بالتدريب الشامل بكفاءة. حققت طريقتنا نسبة تصنيف mAP قدرها 22.4% على معيار Charades، مما يتفوق على أفضل النتائج الحالية (17.2% mAP)، وتوفر مكاسب متساوية في مهمة تحديد الموقع الزمني (temporal localization).