SkipFlow: دمج ميزات التماسك العصبي للتصحيح الآلي النصي من البداية إلى النهاية

أثبت التعلم العميق إمكانات هائلة في مهام تقييم النصوص تلقائيًا (ATS). وفي هذا البحث، نصف بنية عصبية جديدة تعزز نماذج الشبكات العصبية التقليدية بخصائص إضافية للترابط العصبي. يقترح أسلوبنا الجديد آلية \textsc{SkipFlow} جديدة تقوم بنمذجة العلاقات بين لقطات من التمثيلات الخفية لشبكة الذاكرة طويلة المدى قصيرة الأجل (LSTM) أثناء القراءة. بعد ذلك، يتم استخدام العلاقات الدلالية بين العديد من اللقطات كخصائص إضافية للتنبؤ. ولهذا فائدتان رئيسيتان. أولاً، تكون المقالات عادةً سلاسل طويلة، ولذلك قد يكون قدرة الذاكرة لشبكة LSTM غير كافية. يمكن أن يخفف الوصول الضمني إلى العديد من اللقطات من هذه المشكلة بوصفه حماية ضد تلاشي التدرجات. تعمل معلمات آلية \textsc{SkipFlow} أيضًا كذاكرة إضافية. ثانيًا، فإن نمذجة العلاقات بين مواقع متعددة تسمح لنموذجنا بتعلم خصائص تمثل وتقترب من الترابط النصي. وفي نموذجنا، نطلق على هذه الخصائص اسم \textit{الترابط العصبي}. بشكل عام، نقدم بنية تعلم عميق موحدة تولد خصائص الترابط العصبي أثناء القراءة بطريقة شاملة من البداية إلى النهاية. يظهر أسلوبنا أداءً رائدًا على مجموعة بيانات ASAP المرجعية، حيث يتفوق على أسس الهندسة الميزانية وأيضًا على نماذج التعلم العميق الأخرى.