AdvAug: تعزيز مضاد قوي لترجمة الآلات العصبية

في هذه الورقة، نقترح طريقة جديدة للتكبير العدواني (adversarial augmentation) لترجمة الآلات العصبية (NMT). الفكرة الأساسية تتمثل في تقليل المخاطرvicinal على جمل افتراضية تم أخذها من توزيعين مجاورين، حيث يُعد أحد التوزيعين المهمين توزيعًا مجاورًا جديدًا للجمل العدوانية، والذي يصف فضاءً مدمجًا مستمرًا يتركز حول أزواج الجمل التدريبية الملاحظة. ثم نناقش نهجنا، المسمى AdvAug، لتدريب نماذج ترجمة الآلات العصبية باستخدام تمثيلات الجمل الافتراضية في التعلم التسلسلي-السلسلي. أظهرت التجارب على معايير الترجمة بين الصينية-الإنجليزية، والإنجليزية-الفرنسية، والإنجليزية-الألمانية أن AdvAug حقق تحسينات كبيرة مقارنة بنموذج Transformer (حتى 4.9 نقطة BLEU)، وتفوق بشكل ملحوظ على تقنيات التكبير الأخرى (مثل الترجمة العكسية) دون الحاجة إلى استخدام مجموعات بيانات إضافية.