GECToR — تصحيح الأخطاء النحوية: التصنيف، وليس إعادة الصياغة

في هذه الورقة، نقدم عامل تصنيف تسلسلي لتصحيح الأخطاء اللغوية (GEC) بسيطًا وفعالًا يستخدم معالجًا من نوع Transformer. يتم تدريب نموذجنا مسبقًا على بيانات مُصَنَّعة، ثم يُعدّل دقيقًا في مرحلتين: الأولى على مجموعات نصية تحتوي على أخطاء، والثانية على مزيج من مجموعات نصية تحتوي على أخطاء ونصوص خالية من الأخطاء. قمنا بتصميم تحويلات مخصصة على مستوى الرموز (tokens) لتحويل الرموز المدخلة إلى تصحيحات مستهدفة. يحقق أفضل نموذج فردي/مجموعة نماذج لدينا قيمًا لمعيار $F_{0.5}$ بلغت 65.3/66.5 على مجموعة بيانات CoNLL-2014 (الاختبار)، و72.4/73.6 على مجموعة BEA-2019 (الاختبار). كما تُظهر أداءه في الاستدلال سرعة تصل إلى 10 أضعاف سرعة نظم GEC القائمة على نماذج التسلسل إلى التسلسل (seq2seq) المستندة إلى Transformer. تم إتاحة الكود والنماذج المدربة بشكل عام للجمهور.