أوسكار: التدريب المسبق المتماشي مع الدلالة الكائنية للمهام البصرية-اللغوية

تُعدّ الطرق الكبيرة الحجم للتدريب المسبق التي تتعلم التمثيلات عبر الوسائط على أزواج الصور والنصوص شائعةً في المهام البصرية-اللغوية. في حين أن الطرق الحالية تُجمّع ببساطة ميزات مناطق الصورة وميزات النص كمدخلات للنموذج المُدرّب مسبقًا، وتستخدم الانتباه الذاتي لتعلم التوافيق المعنى بين الصور والنصوص بطريقة قصوى، نقترح في هذا البحث طريقة تعلم جديدة تُسمّى "أوسكار" (Oscar: Object-Semantics Aligned Pre-training)، والتي تستخدم العلامات الكائنية المُكتشفة في الصور كنقاط مرجعية لتقليل الصعوبة بشكل كبير في تعلم هذه التوافيق. تُحفّز هذه الطريقة على ملاحظة أن الكائنات البارزة في الصورة يمكن اكتشافها بدقة، وغالبًا ما تُذكر في النص المرتبط بها. قمنا بتدريب نموذج أوسكار مسبقًا على مجموعة بيانات عامة تتضمن 6.5 مليون زوج من النصوص والصور، ثم قمنا بتعديله الدقيق (fine-tuning) على المهام اللاحقة، مما أدى إلى تحقيق أداءً جديدًا قياسيًا على ستة مهام مُتّقدمة معروفة في فهم وتكوين الرؤية واللغة.