قارئ ذاكرة مُعزز لفهم القراءة الآلية

في هذا البحث، نقدم قارئ الذاكرة المعزز (Reinforced Mnemonic Reader) للمهام الفهم القرائي الآلي، والذي يعزز القُراء السابقين الذين يستخدمون آلية الانتباه في جوانبين. أولاً، تم اقتراح آلية إعادة الانتباه لتحسين الانتباه الحالي من خلال الوصول مباشرة إلى الانتباهات السابقة التي تم تخزينها زمنيًا في هندسة تطابق متعددة الأدوار، وذلك بهدف تجنب مشكلتي التكرار الزائد في الانتباه ونقص الانتباه. ثانياً، تم تقديم نهج جديد للتحسين يُعرف بتعلم التعزيز الديناميكي-النقدي (dynamic-critical reinforcement learning)، لتوسيع الطريقة الإشرافية المعيارية. هذا النهج دائمًا ما يشجع على التنبؤ بإجابة أكثر قبولًا لمعالجة مشكلة الكبح التقارب التي تحدث في خوارزميات التعلم بالتعزيز التقليدية. أظهرت التجارب الواسعة على مجموعة بيانات أسئلة ستانفورد (SQuAD) أن نموذجنا حقق أفضل النتائج الحالية. وفي الوقت نفسه، فاق نموذجنا الأنظمة السابقة بنسبة تزيد عن 6٪ في كل من مقاييس التطابق الدقيق ومتوسط F1 على مجموعتين معاديتين من SQuAD.