Transformer متعدد الوسائط للترجمة الآلية متعددة الوسائط

تهدف الترجمة الآلية متعددة الوسائط (MMT) إلى إدخال معلومات من وسائط أخرى، عادةً الصور الثابتة، لتحسين جودة الترجمة. وقد اقترح العمل السابق طرقًا متنوعة للدمج، لكن معظمها لا يأخذ بعين الاعتبار الأهمية النسبية لعدة وسائط. ويعني معالجة جميع الوسائط بالتساوي أن يتم ترميز كمية كبيرة جدًا من المعلومات غير الضرورية من الوسائط الأقل أهمية. في هذه الورقة، نُقدّم انتباهًا ذاتيًا متعدد الوسائط في مُحَوِّل (Transformer) لحل المشكلات المذكورة أعلاه في الترجمة الآلية متعددة الوسائط. تعتمد الطريقة المقترحة على تعلّم تمثيل الصور بناءً على النص، مما يمنع ترميز المعلومات غير ذات الصلة في الصور. وتوحي النتائج التجريبيّة وتحليل التصور بأن نموذجنا يستفيد بشكل فعّال من المعلومات البصرية، ويتفوّق بشكل ملحوظ على الأعمال السابقة والأساليب التنافسية في مختلف المقاييس.