التفكيك الزمني للإجراءات الموحد باستخدام الإشراف الكامل والزمني عبر الترجمة من التسلسل إلى التسلسل

يقدّم هذا البحث إطارًا موحدًا لتقسيم الحركات في الفيديو من خلال الترجمة من تسلسل إلى تسلسل (seq2seq) في بيئة مُشرَّفة بالكامل وفقًا للوقت (timestamp). على عكس الطرق الحالية المتميزة في التنبؤ على مستوى الإطارات، ننظر إلى تقسيم الحركات كمهمة ترجمة تسلسلية إلى تسلسلية، أي تحويل تسلسل من إطارات الفيديو إلى تسلسل من أجزاء الحركات. يشمل النهج المقترح سلسلة من التعديلات ووظائف خسارة إضافية على نموذج الترجمة التسلسلية القياسي المبني على مُحول (Transformer) لمعالجة التسلسلات الطويلة المدخلة مقابل التسلسلات القصيرة المخرجة، بالإضافة إلى عدد محدود نسبيًا من مقاطع الفيديو. كما نُدخل إشارة مراقبة إضافية للـ encoder من خلال خسارة مبنية على مستوى كل إطار، ونُقترح أيضًا مُفكّكًا منفصلًا للتموضع (alignment decoder) لتقدير ضمني للفترة الزمنية. وأخيرًا، نوسع إطارنا ليشمل البيئة المُشرَّفة وفقًا للوقت من خلال خوارزمية k-medoids المُقيَّدة التي نقترحها، والتي تُولِّد تقسيمات افتراضية (pseudo-segmentations). يُظهر الإطار المقترح أداءً متسقًا في كلا البيئتين، المُشرَّفة بالكامل وفقًا للوقت، ويتفوّق أو ينافس الأفضل في عدة مجموعات بيانات. يمكن الوصول إلى الكود المُتاح للعامة عبر الرابط: https://github.com/boschresearch/UVAST.