أنظمة تصحيح الأخطاء النحوية العصبية القائمة على التدريب غير المراقب على بيانات مُصَنَّعة

بُذِلَ جهدٌ كبير لمعالجة مشكلة نقص البيانات في تصحيح الأخطاء النحوية العصبية. وفي هذا العمل، نقترح طريقة بسيطة وفعّالة بشكل مفاجئ لتحرير أخطاء اصطناعية دون تدريب مُعلَّم، تعتمد على مجموعات التباس مستخرجة من مدقق إملائي لزيادة كمية بيانات التدريب. تُستخدم البيانات الاصطناعية لتدريب نموذج ترانسفورمر متسلسل-إلى-متسلسل مُسبقًا، مما يُحسّن الأداء مقارنة بنموذج قوي تم تدريبه على بيانات حقيقية مُعلّمة بالأخطاء، كما يُمكّن من تطوير نظام عملي لتصحيح الأخطاء النحوية في سياق يتوفر فيه قليل جدًا من البيانات الحقيقية المُعلّمة بالأخطاء. وحلّ النظام المطوّر في المرتبة الأولى في مهمة BEA19 المشتركة، حيث حقق 69.47 و64.24 على التوالي في المسارات المحدودة والمنخفضة الموارد، على مجموعة اختبار W&I+LOCNESS. وعلى مجموعة اختبار CoNLL 2014 الشهيرة، نُعْلِن عن نتائج مُتقدمة على مستوى العالم بـ 64.16 Mmbox{$^2$} للنظام المُقدّم، و61.30 Mmbox{$^2$} للنظام المُقيّد الذي تم تدريبه على بيانات NUCLE وLang-8.