تحسين نماذج النص إلى الصوت باستخدام التسميات الاصطناعية

يعد الحصول على بيانات تدريبية عالية الجودة، خاصة التسميات التوضيحية (الكيبشنات)، لنموذج النص إلى الصوت تحديًا مفتوحًا. رغم أن الطرق السابقة استخدمت نماذج اللغة النصية فقط (\textit{text-only language models}) لزيادة وتحسين التسميات التوضيحية، فإن هذه الطرق تعاني من قيود تتعلق بالحجم والتماسك بين الصوت والتسميات التوضيحية. في هذا البحث، نقترح خط أنابيب لتسمية الصوت يستخدم نموذج لغة الصوت (\textit{audio language model}) لإنشاء تسميات توضيحية دقيقة ومتنوعة للصوت على نطاق واسع. نستفيد من هذا الخط الأنابيب لإنتاج مجموعة بيانات تتضمن تسميات توضيحية اصطناعية لمجموعة AudioSet، والتي أطلقنا عليها اسم \texttt{AF-AudioSet}، ثم نقيم فائدة التدريب المسبق لنماذج النص إلى الصوت باستخدام هذه التسميات التوضيحية الاصطناعية. من خلال تقييمات منهجية على AudioCaps و MusicCaps، نجد أن استخدام خط الأنابيب الخاص بنا والتسميات التوضيحية الاصطناعية يؤدي إلى تحسينات كبيرة في جودة إنشاء الصوت، مما يحقق أحدث \textit{state-of-the-art}.