تعددية البيانات: استراتيجية بسيطة لترجمة الآلة العصبية

نقدّم تقنية تنوّع البيانات: استراتيجية بسيطة ولكنها فعّالة لتعزيز أداء الترجمة الآلية العصبية (NMT). تتمثّل هذه الاستراتيجية في تنوّع بيانات التدريب من خلال استخدام تنبؤات نماذج متعددة تعمل في الاتجاهين الأمامي والخلفي، ثم دمج هذه التنبؤات مع مجموعة البيانات الأصلية التي يُدرّب عليها النموذج النهائي للترجمة الآلية العصبية. تطبّق طريقة العمل هذه على جميع نماذج الترجمة الآلية العصبية، دون الحاجة إلى بيانات أحادية اللغة الإتقان مثل الترجمة العكسية (back-translation)، ولا تتطلب إضافة عمليات حسابية إضافية أو معاملات (بارامترات) مثل النماذج المجمّعة (ensembles). حققت طريقة العمل لدينا أداءً متفوّقًا على مستوى الحالة الحالية (state-of-the-art) بتحصيل نقاط BLEU قدرها 30.7 و43.7 في مهام الترجمة الإنجليزية-الألمانية والإنجليزية-الفرنسية ضمن مسابقة WMT'14 على التوالي. كما ساهمت في تحسين الأداء بشكل ملحوظ في 8 مهام أخرى للترجمة: 4 مهام من مسابقة IWSLT (الإنجليزية-الألمانية والإنجليزية-الفرنسية)، و4 مهام للترجمة منخفضة الموارد (الإنجليزية-النيبالية والإنجليزية-السِّينهالية). أظهرت النتائج أن طريقة العمل لدينا أكثر فعالية من تقنيات التعلم بالاستيعاب (knowledge distillation) والتعلم المزدوج (dual learning)، كما تُظهر ارتباطًا قويًا مع أداء النماذج المجمّعة، وتُظهر تنازلًا محسوبًا عن التفرّق (perplexity) مقابل تحسين في نقاط BLEU. وقد أطلقنا الشيفرة المصدرية الخاصة بنا على الرابط التالي: https://github.com/nxphi47/data_diversification