الملخص المتعدد للمهام مع الاستدلال وتوليد الأسئلة على مستوى الطبقات الناعمة

ملخص مستخلص دقيق لوثيقة يجب أن يحتوي على جميع المعلومات البارزة ويجب أن يكون منطقيًا مترتبًا على الوثيقة الأصلية. نحن نحسن هذه الجوانب المهمة في التلخيص المستخلص من خلال التعلم متعدد المهام مع مهمتين مساعدتين هما إنشاء الأسئلة وإنشاء الاستتباع المنطقي، حيث تعلّم الأولى نموذج التلخيص كيفية البحث عن تفاصيل جديرة بالسؤال عنها، بينما تعلّم الثانية النموذج كيفية إعادة صياغة الملخص ليكون مجموعة منطقية موجهة من الوثيقة الأصلية. كما نقترح هياكل متعددة المهام جديدة تتضمن تقاسمًا خاصًا بمستوى عالٍ (دلالاتي) عبر طبقات متعددة للمشفر والمفكك للثلاثة مهمات، بالإضافة إلى آليات تقاسم مرنة (ونقدم أمثلة تحليلية لأداء كل مساهمة). بشكل عام، حققنا تحسينات إحصائية ذات دلالة على أحدث ما وصلت إليه التقنيات في كل من مجموعتي بيانات CNN/DailyMail وGigaword، وكذلك في إعداد النقل DUC-2002. كما نقدم عدة دراسات تحليلية كمية ونوعية لمهارات السلاسة والاستتباع المنطقي التي تعلمها نموذجنا.