HyperAIHyperAI
منذ 18 أيام

تحسين التصنيف من النص إلى النية من النهاية إلى النهاية باستخدام Reptile

Yusheng Tian, Philip John Gorinski
تحسين التصنيف من النص إلى النية من النهاية إلى النهاية باستخدام Reptile
الملخص

تتمتع أنظمة فهم اللغة الشفهية من الطرف إلى الطرف (SLU) بمجموعة من المزايا مقارنة بأنظمة السلاسل التقليدية، لكن جمع بيانات صوتية محددة المجال لتدريب نظام من هذا النوع يكون مكلفًا وطويل الأمد. ينشأ من هذا السؤال التالي: كيف يمكن تدريب نظام SLU من الطرف إلى الطرف باستخدام كميات محدودة من البيانات؟ وقد استكشف العديد من الباحثين أساليب تستخدم مصادر بيانات مرتبطة أخرى، عادةً من خلال تدريب مكونات النموذج مسبقًا على مهام التعرف على الصوت ذات الموارد الغنية. في هذه الورقة، نقترح تحسين أداء التعميم للنماذج الخاصة بـ SLU باستخدام خوارزمية تعلم غير تقليدية تُدعى Reptile. وعلى الرغم من أن Reptile تم اقتراحها في الأصل لتعلم الميتا المُجرد من النموذج، فإننا نجادل بأنها يمكن استخدامها أيضًا لتعلم المهمة المستهدفة مباشرة، مما يؤدي إلى تعميم أفضل مقارنة بالانحدار التقليدي. في هذا العمل، نطبق Reptile على مهمة تصنيف نوايا الكلام من الطرف إلى الطرف. وتُظهر التجارب أداءً محسّنًا في دقة توقع النوايا على أربع مجموعات بيانات مختلفة باللغات والمواضيع، سواء عند استخدام Reptile بمفردها أو عند دمجها مع التدريب المسبق.