عد الأفعال المتكررة باستخدام نموذج العلاقات الزمنية الهجينة

يهدف عد الأفعال المتكررة (RAC) إلى حساب عدد الأفعال المتكررة التي تحدث في مقاطع الفيديو. في العالم الحقيقي، تتميز الأفعال المتكررة بالتنوع الكبير وتجلب العديد من التحديات (مثل تغيرات الزاوية، فترات غير متساوية، وانقطاعات الأفعال). تعاني الطرق الحالية المستندة إلى مصفوفة التشابه الزمني الذاتي (TSSM) لـ RAC من عنق زجاجة يتمثل في عدم كفاية التقاط فترات الأفعال عند تطبيقها على مقاطع الفيديو اليومية المعقدة. لحل هذه المشكلة، نقترح طريقة جديدة باسم شبكة النمذجة الهجينة للعلاقات الزمنية (HTRM-Net) لبناء مصفوفات TSSM متنوعة لـ RAC. تتكون الشبكة HTRM-Net بشكل أساسي من ثلاثة مكونات رئيسية: نمذجة مصفوفة التشابه الزمني الذاتي ثنائية الوضع (الانتباه الذاتي وثنائي softmax)، وإسقاط المصفوفة العشوائي، ونمذجة السياق الزمني المحلي. بوجه خاص، نقوم ببناء مصفوفات التشابه الزمني الذاتي عبر عمليات ثنائية الوضع (الانتباه الذاتي وثنائي softmax)، مما ينتج تمثيلات مصفوفة متنوعة من خلال الجمع بين الارتباطات الصفية والعمودية. لتعزيز تمثيلات المصفوفة بشكل أكبر، نقترح دمج وحدة إسقاط المصفوفة العشوائي لتوجيه التعلم القناوي للمصفوفة بشكل صريح. بعد ذلك، نقوم بإدخال السياق الزمني المحلي لإطارات الفيديو والمصفوفة المُتعلمة إلى نمذجة الارتباط الزمني، مما يجعل النموذج قويًا بما يكفي للتعامل مع الحالات التي تكون فيها الأخطاء محتملة، مثل انقطاع الفعل. أخيرًا، تم تصميم وحدة دمج متعددة المقاييس للمصفوفة لتجميع الارتباطات الزمنية بطريقة مرنة في مصفوفات متعددة المقاييس. تُظهر التجارب الواسعة عبر البيانات الداخلية والخارجية أن الطريقة المقترحة لا فقط تتفوق على الأساليب الرائدة حاليًا بل أيضًا تظهر قدراتها القوية في عد الأفعال المتكررة بدقة في فئات أفعال غير مشاهدة سابقًا. يُذكر أن طريقتنا تتفوق على طريقة TransRAC الكلاسيكية بنسبة 20.04٪ في MAE و22.76٪ في OBO.