EquiAV: الاستفادة من التكافؤ في التعلم التبايني الصوتي البصري

أظهرت التطورات الحديثة في تعلم التمثيلات الصوتية البصرية ذاتية التحفيز إمكانات كبيرة في التقاط تمثيلات غنية وشاملة. ومع ذلك، وعلى الرغم من المزايا التي أثبتت وجودها في طرق التعلم المختلفة من خلال تعزيز البيانات، فإن التعلم الصوتي البصري ما زال يواجه صعوبات في الاستفادة الكاملة من هذه المزايا، لأن تعزيزات البيانات يمكن أن تُربك بسهولة العلاقة بين أزواج المدخلات. وللتغلب على هذا التحدي، نقدم إطارًا جديدًا يُسمى EquiAV، يستفيد من مفهوم التكافؤ (equivariance) في التعلم التمييزي الصوتي البصري. يبدأ نهجنا بتوسيع مفهوم التكافؤ إلى مجال التعلم الصوتي البصري، وذلك بفضل مُقدّر تحويل مبني على الانتباه المشترك. ويتيح هذا التوسيع جمع الميزات الناتجة عن تعزيزات متنوعة في تمثيل ممثل، مما يوفر إشرافًا قويًا. وبشكل ملحوظ، يتم ذلك بتكاليف حسابية ضئيلة جدًا. وقد أكدت دراسات تحليلية واسعة ونتائج نوعية فعالية منهجنا. وتفوق EquiAV على الدراسات السابقة في مجموعة متنوعة من المعايير الصوتية البصرية. ويمكن الوصول إلى الكود من خلال الرابط التالي: https://github.com/JongSuk1/EquiAV.