شبكات محول 4D للنماذج الفضائية الزمنية في مقاطع الفيديو المكونة من نقاط

تُظهر مقاطع الفيديو ذات السحاب النقطي عدم انتظامًا ونقصًا في الترتيب على الطول المكاني، حيث تظهر النقاط بشكل غير منتظم عبر الإطارات المختلفة. لالتقاط الديناميكيات في مقاطع الفيديو ذات السحاب النقطي، يُستخدم عادة تتبع النقاط. ومع ذلك، نظرًا لتدفق النقاط داخل وخارج الإطارات، يصبح حساب مسارات النقاط بدقة أمرًا بالغ الصعوبة. علاوة على ذلك، يعتمد التتبع عادةً على ألوان النقاط، وبالتالي قد يفشل في التعامل مع السحاب النقطي الخالي من الألوان. في هذه الورقة، لتجنب تتبع النقاط، نقترح شبكة جديدة تُسمى "Transformer 4D للنقاط" (P4Transformer) لتمثيل مقاطع الفيديو ذات السحاب النقطي الخام. وتحديدًا، تتكون P4Transformer من (أ) تحدّد 4D للنقاط لتمثيل الهياكل المحلية المكانية-الزمنية المُستعرضة في مقطع الفيديو ذات السحاب النقطي، و(ب) شبكة Transformer لالتقاط معلومات المظهر والحركة عبر كامل المقطع من خلال تطبيق الانتباه الذاتي على الميزات المُدمجة المكانية المحلية. وبهذه الطريقة، يتم دمج المناطق المحلية المرتبطة أو المتشابهة باستخدام أوزان الانتباه بدلًا من التتبع الصريح. وتوحي النتائج التجريبية الواسعة، بما في ذلك التعرف على الأفعال الثلاثية الأبعاد وتصنيف الدلالة 4D، على أربع معايير، بفعالية نموذج P4Transformer في تمثيل مقاطع الفيديو ذات السحاب النقطي.