
نعتبر السؤال التالي: ما الذي يمكن تعلمه من خلال مشاهدة وسماع عدد كبير من الفيديوهات غير المصنفة؟ هناك مصدر معلومات ثمين، ولكنه لم يتم استغلاله حتى الآن، محتوى في الفيديو نفسه -- التوافق بين التيار البصري والتيار الصوتي، وقد قمنا بتقديم مهمة تعلم جديدة تُعرف بـ "توافق الصوت والصورة" (Audio-Visual Correspondence) والتي تستفيد من هذا المصدر. يُظهر البحث أن تدريب شبكات البصر والسمع من الصفر، دون أي إشراف إضافي سوى الفيديوهات الخام وغير المقيدة نفسها، يمكن أن ينجح في حل هذه المهمة، وأكثر من ذلك بكثير، يؤدي إلى تمثيلات بصريّة وصوتية جيدة. هذه الخصائص تحدد الحالة الجديدة الأكثر تقدماً في معيارين لتصنيف الأصوات، وتؤدي بنفس المستوى مع أفضل النهج ذاتية الإشراف على تصنيف ImageNet. كما نوضح أن الشبكة قادرة على تحديد موقع الأشياء في كلتا الوسيلتين، بالإضافة إلى أداء مهام التعرف الدقيق.