شبكات الانتباه الديناميكي للإجابة على الأسئلة

تم اقتراح عدة نماذج للتعلم العميق للاستجابة للأسئلة. ومع ذلك، بسبب طبيعتها ذات المرور الواحد، لا توجد لديها أي وسيلة للتغلب على القمم المحلية المقابلة للإجابات الخاطئة. لحل هذه المشكلة، نقدم شبكة التكافؤ الديناميكي (Dynamic Coattention Network - DCN) للاستجابة للأسئلة. تقوم الشبكة DCN أولاً بدمج تمثيلات مترابطة للسؤال والوثيقة من أجل التركيز على الأجزاء ذات الصلة في كليهما. ثم يقوم فكودر الإشارة الديناميكية بالمرور على فواصل الإجابات المحتملة بشكل متكرر. يمكّن هذا الإجراء المتكرر النموذج من التغلب على القمم المحلية الأولية المقابلة للإجابات الخاطئة. وعلى مجموعة بيانات استجابة الأسئلة من جامعة ستانفورد، تحسن نموذج DCN الفردي الحالة السابقة للأداء من 71.0% إلى 75.9% في مؤشر F1، بينما حصلت مجموعة نماذج DCN على 80.4% في مؤشر F1.