نماذج التحرير التكراري المتوازية للتحويل التسلسلي المحلي

نقدم نموذجًا تكراريًا متوازيًا للتحرير (PIE) لحل مشكلة التحويل المحلي للسلسلة التي تظهر في مهام مثل تصحيح الأخطاء النحوية (GEC). تعتمد الطرق الحديثة على النموذج الشهير المُشفّر-المُفكّك (ED) لتعلم التحويل من سلسلة إلى سلسلة. يُعدّ النموذج ED يُعالج الاعتماد الكامل بين الرموز المخرجة بشكل تكراري ذاتيًا، لكنه بطيء بسبب عملية التفكيك التسلسلية. أما نموذج PIE فيُجري التفكيك المتوازي، مُتَخَلِّيًا عن الميزة المتعلقة بتمثيل الاعتماد الكامل في المخرجات، لكنه يحقق دقة تنافسية مع نموذج ED لأربع أسباب: 1. التنبؤ بالتعديلات بدلًا من الرموز، 2. تصنيف السلاسل بدلًا من إنشائها، 3. تحسين التنبؤات بشكل تكراري لالتقاط الاعتماديات، و4. تحليل القيم اللوغاريتمية (logits) على التعديلات وحُججها الرمزية للاستفادة من النماذج اللغوية المُدرّبة مسبقًا مثل BERT. تُظهر التجارب على مهام متعددة تشمل تصحيح الأخطاء النحوية، وتصحيح نصوص من مسح ضوئي (OCR)، وتصحيح الإملاء أن نموذج PIE يُعد بديلًا دقيقًا وبشكل ملحوظ أسرع لمشكلة التحويل المحلي للسلسلة.