الاستدلال الزمني في الفيديوهات

القدرة على الاستدلال بالعلاقات الزمنية، وهي القدرة على ربط التحولات ذات المعنى للأجسام أو الكيانات عبر الزمن، هي خاصية أساسية للأنواع الذكية. في هذا البحث، نقدم وحدة شبكة فعالة وقابلة للتفسير تسمى شبكة العلاقات الزمنية (TRN)، المصممة لتعلم وتفسير الارتباطات الزمنية بين الإطارات الفيديوية بمقياس زمني متعدد. قمنا بتقييم الشبكات المجهزة بـ TRN في مهام التعرف على الأنشطة باستخدام ثلاثة مجموعات بيانات فيديو حديثة - Something-Something، Jester، و Charades - والتي تعتمد بشكل أساسي على الاستدلال بالعلاقات الزمنية. تظهر نتائجنا أن الشبكة المقترحة TRN تمنح الشبكات العصبية المتلافهة قدرة ملحوظة على اكتشاف العلاقات الزمنية في مقاطع الفيديو. من خلال إطارات الفيديو المستخرجة بشكل نادر فقط، يمكن للشبكات المجهزة بـ TRN التنبؤ بدقة بالتفاعلات البشر-الأجسام في مجموعة بيانات Something-Something والتمييز بين مختلف الإيماءات البشرية في مجموعة بيانات Jester بأداء تنافسي للغاية. كما أظهرت الشبكات المجهزة بـ TRN تفوقًا على شبكات التيارين والشبكات المتلافهة ثلاثية الأبعاد في التعرف على الأنشطة اليومية في مجموعة بيانات Charades. تحليلات إضافية تبين أن النماذج تتعلم المعرفة البصرية الحسية المشتركة بطرق بديهية وقابلة للتفسير في مقاطع الفيديو.