Bridge-Prompt: نحو فهم الإجراءات الترتيبية في الفيديوهات التعليمية

أظهرت نماذج تمييز الحركات إمكانات واعدة في تصنيف الحركات البشرية داخل مقاطع فيديو قصيرة. في السياقات الواقعية، تحدث عادةً عدة حركات بشرية مرتبطة ببعضها البعض بترتيب معين، مما يشكل أنشطة بشرية ذات معنى معنوي. تركز النماذج التقليدية لتمييز الحركات على تحليل الحركات الفردية فقط، لكنها تفشل في استخلاص العلاقة السياقية بين الحركات المتجاورة، والتي توفر منطقًا زمنيًا محتملًا لفهم مقاطع الفيديو الطويلة. في هذا البحث، نقترح إطارًا مبنيًا على النماذج (prompts)، يُسمى Bridge-Prompt (Br-Prompt)، لتمثيل المعاني بين الحركات المتجاورة، بحيث يستفيد بشكل متزامن من المعلومات الخارجة عن السياق والمعلومات السياقية المستمدة من سلسلة من الحركات المرتبة في مقاطع الفيديو التعليمية. وبشكل أكثر تحديدًا، نعيد صياغة تسميات الحركات الفردية كنصوص متكاملة تُستخدم كنماذج مراقبة، تُسهم في جسر الفجوة بين معاني الحركات الفردية. تُزامن هذه النصوص المولدة مع مقاطع الفيديو المقابلة لها، وتُدرَّب بشكل مشترك على تدريب المشفر النصي والمشفر الفيديوي باستخدام منهجية تقابلية (contrastive approach). يؤدي ذلك إلى تحسين قدرة المشفر البصري المُدرَّب على المهام اللاحقة المرتبطة بالحركات المرتبة، مثل تقسيم الحركات وتمييز الأنشطة البشرية. تم تقييم أداء النهج المقترح على عدة مجموعات بيانات فيديو: Georgia Tech Egocentric Activities (GTEA)، و50Salads، وبيانات Breakfast. وقد حقق Br-Prompt أداءً متقدمًا على العديد من المعايير المعيارية. يمكن الوصول إلى الكود عبر الرابط: https://github.com/ttlmh/Bridge-Prompt