HyperAIHyperAI
منذ 2 أشهر

اختيار استجابة الحوار باستخدام التعلم المنهجي الهرمي

Yixuan Su; Deng Cai; Qingyu Zhou; Zibo Lin; Simon Baker; Yunbo Cao; Shuming Shi; Nigel Collier; Yan Wang
اختيار استجابة الحوار باستخدام التعلم المنهجي الهرمي
الملخص

ندرس تعلم نموذج مطابقة لاختيار ردود الفعل في الحوار. مستوحى من الاكتشاف الحديث أن النماذج المدربة باستخدام العينات السلبية العشوائية ليست مثالية في السيناريوهات الحقيقية، نقترح إطارًا تعليميًا متدرجًا يدرب نموذج المطابقة وفقًا لمخطط "من السهل إلى الصعب". يتكون إطارنا التعليمي من برنامجين تعليميين مكملين: (1) البرنامج التعليمي على مستوى المجموعة (Corpus-Level Curriculum - CC)؛ و(2) البرنامج التعليمي على مستوى الحالة (Instance-Level Curriculum - IC). في CC، يزيد النموذج تدريجيًا قدرته على العثور على أدلة المطابقة بين سياق الحوار ومترشح الرد. أما بالنسبة لـ IC، فإنه يعزز تدريجيًا قدرة النموذج على تحديد المعلومات غير المتطابقة بين سياق الحوار ومترشح الرد. أظهرت الدراسات التجريبية على ثلاثة مجموعات بيانات معيارية باستخدام ثلاثة نماذج مطابقة رائدة أن الإطار التعليمي المقترح يحسن بشكل كبير أداء النموذج عبر مجموعة متنوعة من مقاييس التقييم.