منذ 2 أشهر
SDNet: شبكة عميقة مستندة إلى الانتباه السياقي لأسئلة المحادثة والإجابة عليها
Chenguang Zhu; Michael Zeng; Xuedong Huang

الملخص
الأسئلة والإجابات التفاعلية (CQA) هي مهمة جديدة في مجال الإجابة على الأسئلة تتطلب فهم سياق الحوار. تختلف هذه المهمة عن مهام الفهم التقليدية للقراءة الآلية (MRC) ذات الدور الواحد، حيث تشمل CQA فهم النص، وحل الإشارة المرجعية، وفهم السياق. في هذا البحث، نقترح شبكة عصبية عميقة مبتكرة تعتمد على الانتباه السياقي، تُعرف باسم SDNet، لدمج السياق في نماذج MRC التقليدية. يستخدم نموذجنا كلًا من الانتباه بين الجمل والانتباه الذاتي لفهم سياق الحوار واستخراج المعلومات ذات الصلة من النص. بالإضافة إلى ذلك، قدمنا طريقة جديدة لدمج أحدث نموذج سياقي من BERT. أظهرت النتائج التجريبية فعالية نموذجنا، حيث حقق أفضل نتيجة حتى الآن في قائمة تصنيف CoQA، بتفوق بنسبة 1.6% F1 على أفضل نموذج سابق. كما أن نموذجنا المركب يحسن النتيجة بمقدار 2.7% F1 إضافية.