HyperAIHyperAI
منذ 2 أشهر

نموذج لغوي بسيط للحوار الموجه نحو المهمة

Ehsan Hosseini-Asl; Bryan McCann; Chien-Sheng Wu; Semih Yavuz; Richard Socher
نموذج لغوي بسيط للحوار الموجه نحو المهمة
الملخص

الحوار الموجه نحو المهام غالبًا ما يتم تفكيكه إلى ثلاث مهام رئيسية: فهم مدخلات المستخدم، اتخاذ القرارات، وإنشاء رد. بينما قد يشير هذا التفكيك إلى نموذج متخصص لكل مهمة فرعية، فإننا نجد أن النهج البسيط والموحد يؤدي إلى أداء رائد على مجموعة بيانات MultiWOZ. SimpleTOD هو نهج بسيط للحوار الموجه نحو المهام يستخدم نموذج لغة واحد وعنصري (causal language model) مدرب على جميع المهام الفرعية كمشكلة تنبؤ بسلسلة واحدة. هذا يسمح لـ SimpleTOD باستغلال التعلم النقل من النماذج اللغوية العنصرية المدربة مسبقًا والمفتوحة المجال مثل GPT-2 بشكل كامل. يحسن SimpleTOD على الحالة الرائدة السابقة في دقة الهدف المشترك لمتابعة حالة الحوار، وكشف تحليلنا عن صلابة في مواجهة التسميات الضوضائية في هذا الإعداد. كما يحسن SimpleTOD المؤشرات الرئيسية المستخدمة لتقييم قرارات الأفعال وإنشاء الردود في إعداد شامل: معدل المعلومات بمقدار 8.1 نقطة، ومعدل النجاح بمقدار 9.7 نقطة، والنقاط المتراكمة بمقدار 7.2 نقطة.

نموذج لغوي بسيط للحوار الموجه نحو المهمة | أحدث الأوراق البحثية | HyperAI