HyperAIHyperAI
منذ 2 أشهر

نموذج حواري موجه للمساهمة احتمالي من البداية إلى النهاية مع حالات اعتقاد خفية نحو التعلم شبه المشرف

Yichi Zhang; Zhijian Ou; Huixin Wang; Junlan Feng
نموذج حواري موجه للمساهمة احتمالي من البداية إلى النهاية مع حالات اعتقاد خفية نحو التعلم شبه المشرف
الملخص

الحالة الإيمانية المهيكلة ضرورية لتتبع أهداف المستخدم والاستفسار من قاعدة البيانات في أنظمة الحوار الموجهة نحو المهام. ومع ذلك، فإن تدريب متعقبات الإيمان غالبًا ما يتطلب تسميات مكلفة على مستوى الدور لكل تصريح يصدره المستخدم. في هذا البحث، نهدف إلى تخفيف الاعتماد على تسميات الحالة الإيمانية في بناء أنظمة الحوار من النهاية إلى النهاية، من خلال الاستفادة من بيانات الحوار غير المصنفة نحو التعلم شبه المشرف. نقترح نموذج حوار احتمالي يُطلق عليه اسم نموذج الحالة الإيمانية الكامنة (LAtent BElief State - LABES)، حيث يتم تمثيل الحالات الإيمانية كمتغيرات كامنة متقطعة ونمذجتها بشكل مشترك مع استجابات النظام بناءً على مدخلات المستخدم. يمكّننا هذا النمذجة للمتغيرات الكامنة من تطوير التعلم شبه المشرف تحت إطار التعلم المتغيري الأساسي. علاوة على ذلك، نقدم LABES-S2S، وهو تنفيذ لنظام تحويل التسلسل إلى تسلسل (Seq2Seq) معزز بالنسخ لنموذج LABES. في التجارب المشرفة، حقق LABES-S2S نتائج قوية على ثلاثة مجموعات بيانات مرجعية بمقاييس مختلفة. عند استخدام بيانات الحوار غير المصنفة، يتفوق LABES-S2S شبه المشرف بشكل كبير على كل من الأساسيات المشرفة فقط والأساسيات شبه المشرفة. وبشكل ملفت للنظر، يمكننا تقليص متطلبات التسمية إلى 50% دون فقدان الأداء في MultiWOZ.

نموذج حواري موجه للمساهمة احتمالي من البداية إلى النهاية مع حالات اعتقاد خفية نحو التعلم شبه المشرف | أحدث الأوراق البحثية | HyperAI