HyperAIHyperAI
منذ 2 أشهر

تمثيلات متعددة الحبوب للحوار

Shikib Mehri; Maxine Eskenazi
تمثيلات متعددة الحبوب للحوار
الملخص

تستند نماذج الحوار العصبية على تمثيلات مخفية معممة للغة. يقدم هذا البحث إجراء تدريبيًا جديدًا يتعلم فيه تمثيلات متعددة للغة بمستويات مختلفة من التفصيل. تقوم خوارزمية التدريب متعددة المستويات بتعديل الآلية التي يتم من خلالها اختيار الاستجابات المرشحة السلبية لتحكم في مستوى التفصيل للتمثيلات المخفية المُتعلَّمة. تم رصد ارتفاع كبير في الأداء في مهمة استرجاع الجملة التالية باستخدام كل من مجموعة بيانات MultiWOZ وكوربوس حوار Ubuntu. أظهرت التحليلات بشكل كبير أن تمثيلات متعددة المستويات يتم تعلمها وأن التدريب متعدد المستويات يسهل النقل إلى المهام اللاحقة (downstream tasks).