التعلم التلقائي المستند إلى Conformer للمهام الصوتية غير الصوتية

لقد أصبح التعلم التمثيلي من البيانات غير المُعلَّمة محور اهتمام رئيسي في أبحاث الذكاء الاصطناعي. وعلى الرغم من انتشار التعلم التمثيلي ذاتي التحفيز للصوت في مجتمع أبحاث الصوت، إلا أن عدد الأبحاث التي تحلل بشكل شامل تعلم التمثيل الصوتي المُستخدَم في المهام الصوتية غير الصوتية كان قليلاً جداً. في هذه الورقة، نقترح منهجاً للتعلم التمثيلي الصوتي ذاتي التحفيز ونطبّقه على مجموعة متنوعة من المهام الصوتية غير الصوتية في المراحل اللاحقة. ندمج الإطار المعروف بـ wav2vec 2.0، الذي أظهر نجاحاً في التعلم التمثيلي ذاتي التحفيز للوظائف الصوتية، مع معمارية conformer الفعالة من حيث المعلمات. يمكن أن يقلل التدريب المسبق ذاتي التحفيز الذي نقترحه الحاجة إلى البيانات المُعلَّمة بنسبة ثلثين. وعلى معيار AudioSet، نحقق درجة دقة متوسطة متوسطة (mAP) قدرها 0.415، وهي حالة جديدة من أفضل الأداء على هذا المجموعة باستخدام التعلم التمثيلي الصوتي فقط ذاتي التحفيز. كما تفوق نماذج conformer التي تم تحسينها دقيقاً أداء الأنظمة السابقة التي تم تدريبها بشكل مراقب في عدة مهام لاحقة، أو تساويها. ونناقش أيضاً الجوانب المهمة في التصميم لكل من التدريب المسبق والتحسين الدقيق.