أنظمة الترجمة العصبية في إدنبرة لـ WMT 16

شاركنا في مهمة الترجمة المشتركة للأخبار لعام 2016 من قبل مؤتمر ترجمة الآلات العالمي (WMT 2016) من خلال بناء أنظمة ترجمة عصبية لأربع زوجات لغوية، كل منها تم تدريبه في الاتجاهين: الإنجليزية<->التشيكية، الإنجليزية<->الألمانية، الإنجليزية<->الرومانية والإنجليزية<->الروسية. تعتمد أنظمتنا على مُشفِّر-مُفكِّك يعتمد على الانتباه (attentional encoder-decoder)، باستخدام تقسيم الكلمات الفرعية بمساعدة BPE لتحقيق الترجمة المفتوحة مع مفردات ثابتة. قمنا بإجراء تجارب باستخدام الترجمات العكسية الآلية لمجموعة الأخبار الأحادية اللغة كبيانات تدريب إضافية، وتطبيق الانقطاع الشامل (pervasive dropout)، وبناء نماذج ثنائية الاتجاه للهدف (target-bidirectional models). جميع الطرق المبلغ عنها أدت إلى تحسينات كبيرة، وشاهدنا تحسينات تتراوح بين 4.3 و11.2 نقطة BLEU مقارنة بأنظمتنا الأساسية. في التقييم البشري، كانت أنظمتنا هي الأفضل (المشاركة) ضمن الأنظمة المقيدة في 7 من أصل 8 اتجاهات ترجمة شاركنا فيها.