إعادة التفكير في التصنيف الصوتي للفيديوهات: التدريب من البداية إلى النهاية لتطبيقات واقعية

تم تدريب التعلم العميق (DL) على مجموعات بيانات كبيرة، مما يسمح بتصنيف الفيديوهات بدقة إلى مئات الفئات المتنوعة. ومع ذلك، فإن تسمية بيانات الفيديو باهظة التكلفة. وتُقدّم التعلم الصفرية (ZSL) حلًا واحدًا لهذه المشكلة. حيث يتم تدريب النموذج مرة واحدة، ثم يتم تعميمه على مهام جديدة لا توجد فئاتها في مجموعة التدريب. نقترح أول خوارزمية من النهاية إلى النهاية لتطبيق التعلم الصفرية في تصنيف الفيديوهات. تعتمد عملية التدريب لدينا على رؤى مستمدة من الأدبيات الحديثة في تصنيف الفيديوهات، وتستخدم شبكة عصبية متعددة الطبقات قابلة للتدريب (3D CNN) لاستخلاص السمات البصرية. وهذا يختلف عن الأساليب السابقة في التعلم الصفرية للفيديوهات، التي تعتمد على مُستخرجات سمات مُدرّبة مسبقًا. كما نوسع أيضًا نموذج التقييم الحالي: ففي الطرق السابقة، كان الهدف هو جعل المهمة في الاختبار غير معروفة وقت التدريب، لكنها لم تحقق هذا الهدف بالكامل. ونُشجع وجود انزياح في المجال بين بيانات التدريب والاختبار، ونمنع تخصيص نموذج التعلم الصفرية لبيانات اختبار محددة. وقد تفوّقنا على الحد الأقصى للحالة الحالية بفارق كبير. يتوفر كودنا، وإجراء التقييم، ووزن النموذج على موقع github.com/bbrattoli/ZeroShotVideoClassification.