HyperAIHyperAI
منذ 2 أشهر

شبكات المؤشرات الذاكرة من العالمية إلى المحلية للحوار الموجه نحو المهام

Chien-Sheng Wu; Richard Socher; Caiming Xiong
شبكات المؤشرات الذاكرة من العالمية إلى المحلية للحوار الموجه نحو المهام
الملخص

الحوار الموجه نحو المهمة من النهاية إلى النهاية يعتبر تحديًا نظرًا لكون قواعد البيانات غالبًا ما تكون كبيرة، ديناميكية وصعبة الدمج في إطار تعلم. نقترح شبكات الإشارة الذاكرة من الشامل إلى المحلي (GLMP) لمعالجة هذه المشكلة. في نموذجنا، تم اقتراح مُشفِّر ذاكرة شامل ومُفكِّك ذاكرة محلي لمشاركة المعرفة الخارجية. يقوم المُشفِّر بترميز تاريخ الحوار، تعديل التمثيل السياقي الشامل وإنشاء إشارة ذاكرة شاملة. أما المُفكِّك فيقوم أولاً بإنشاء استجابة تقريبية تحتوي على فتحات غير مملوءة. ثم يمرر إشارة الذاكرة الشاملة لتصفية المعرفة الخارجية للحصول على المعلومات ذات الصلة، ويقوم بتعبئة الفتحات عبر الإشارات الذاكرة المحلية. لقد أظهرنا تجريبيًا أن نموذجنا يمكنه تحسين دقة النسخ وتخفيف مشكلة الكلمات خارج القاموس الشائعة. نتيجة لذلك، يمكن لـ GLMP أن يتفوق على النماذج الرائدة سابقًا في كل من مجموعة بيانات bAbI Dialogue المحاكاة ومجموعة بيانات حوار ستانفورد متعددة المجالات بين البشر في التقييم الآلي والتقييم البشري.

شبكات المؤشرات الذاكرة من العالمية إلى المحلية للحوار الموجه نحو المهام | أحدث الأوراق البحثية | HyperAI