فهم النص باستخدام شبكة القراءة المجمعة بالانتباه

تم تقديم عدة مجموعات بيانات كبيرة بأسلوب السياق-السؤال-الإجابة (cloze-style) مؤخرًا: بيانات أخبار CNN وDaily Mail واختبار كتب الأطفال. بفضل حجم هذه المجموعات، فإن مهمة فهم النص مناسبة جدًا لتقنيات التعلم العميق التي تبدو حاليًا أنها تتفوق على جميع الطرق البديلة. نقدم نموذجًا جديدًا وبسيطًا يستخدم الانتباه لاختيار الإجابة مباشرة من السياق، بدلاً من حساب الإجابة باستخدام تمثيل مدمج لكلمات الوثيقة كما هو شائع في النماذج المشابهة. هذا يجعل النموذج خاص جدًا بالمسائل الإجابة عن الأسئلة حيث تكون الإجابة كلمة واحدة من الوثيقة. يحدد مجمع نماذجنا حالة جديدة للفن (state of the art) في جميع المجموعات التي تم تقييمها.