هل تذكر؟ التسمية الكثيفة للفيديو باستخدام استرجاع الذاكرة متعددة الأوضاع

لقد حظيت أبحاث التسمية الكثيفة للفيديو باهتمام كبير، والتي تهدف إلى تحديد موقع وتسمية جميع الأحداث داخل الفيديو غير المقصوص. قدّمت العديد من الدراسات طرقًا من خلال تصميم التسمية الكثيفة للفيديو كمشكلة متعددة المهام تتضمن تحديد موقع الحدث ووصف الحدث، وذلك للأخذ بعين الاعتبار العلاقات بين المهام. ومع ذلك، فإن معالجة هذين المهمتين باستخدام الإدخال البصري فقط يعد تحديًا بسبب نقص المحتوى الدلالي. في هذه الدراسة، نعالج هذا التحدي من خلال اقتراح إطار عمل جديد مستوحى من معالجة المعلومات الإدراكية لدى البشر. يستخدم نموذجنا ذاكرة خارجية لدمج المعرفة السابقة. تم اقتراح طريقة استرجاع الذاكرة باستخدام مطابقة الفيديو والنص عبر الأوضاع (cross-modal). لدمج الخصائص النصية المسترجعة بشكل فعال، تم تصميم مُشفِّر متعدد الاستخدامات ومسحّف يحتوي على وحدات انتباه متقاطع بصري ونصي. تم إجراء تجارب مقارنة لتوضيح فعالية الطريقة المقترحة على مجموعتي بيانات ActivityNet Captions وYouCook2. أظهرت نتائج التجارب أداءً واعدًا لنموذجنا دون الحاجة إلى تدريب مكثف من مجموعة بيانات فيديو كبيرة.