الترجمة غير التلقائية باستخدام تعلم رموز فئوية الهدف

نموذج الترجمة غير التكراري المبني على المُحَوِّل (Non-autoregressive Transformer) هو نموذج واعد لتحرير النصوص. ومع ذلك، لا يزال النماذج غير التكرارية الحالية تتخلف عن نماذجها التكرارية من حيث جودة الترجمة. ونُعزِّي هذا الفجوة في الدقة إلى نقص نمذجة الاعتماد بين مدخلات المُفكِّك (decoder inputs). في هذا البحث، نُقدِّم نموذج CNAT، الذي يتعلَّم بشكل ضمني رموزًا فئوية كمتغيرات خفية أثناء عملية التفكيك غير التكراري. ويعوِّض التفاعل بين هذه الرموز الفئوية الاعتماد المفقود، ويعزز قدرة النموذج. وأظهرت نتائج التجارب أن نموذجنا يحقق أداءً مماثلاً أو أفضل من عدة نماذج أساسية قوية في مهام الترجمة الآلية.