ERNIE-UniX2: إطار موحد متعدد اللغات ومتعدد الوسائط للفهم والإنتاج

تحاول الدراسات الحديثة المتعددة اللغات والمتعددة الوسائط توسيع نماذج التدريب المسبق للرؤية واللغة (VLP) لدعم المدخلات غير الإنجليزية وتحقيق أداءً مميزًا. ومع ذلك، تركز هذه النماذج فقط على مهام الفهم باستخدام بنية المحرك الوحيد (encoder-only). في هذا البحث، نقترح نموذج ERNIE-UniX2، وهو إطار موحد للتدريب المسبق المتعدد اللغات والمتعدد الوسائط يُستخدم لكل من مهام التوليد والفهم. يدمج ERNIE-UniX2 عدة نماذج تدريب مسبق (مثل التعلم التبايني ونمذجة اللغة) بناءً على بنية المحرك-المنفذ (encoder-decoder)، ويسعى إلى تعلم تمثيل مشترك أفضل عبر اللغات والوسائط المختلفة. علاوة على ذلك، يمكن تحسين ERNIE-UniX2 بسلاسة لمهام متعددة تتعلق بالتوليد والفهم في المهام اللاحقة. وقد تم تدريبه على مجموعات بيانات متعددة اللغات فقط والبيانات الصورية-النصية، ويحقق أداءً متفوقًا (SOTA) في مجموعة متنوعة من مهام التوليد والفهم المتعددة اللغات والوسائط، مثل الترجمة الآلية متعددة الوسائط والإجابة على الأسئلة البصرية متعددة اللغات.