"هذه هي وحيد قرني، فلوفي": تخصيص تمثيلات الرؤية-اللغة المجمدة

النماذج الكبيرة للرؤية واللغة التي تم تدريبها على بيانات واسعة النطاق من الويب توفر تمثيلات لا تقدر بثمن لعدد كبير من مشاكل الرؤية واللغة (V&L). ومع ذلك، فإن كيفية استخدام هذه النماذج في الاستدلال عن المفاهيم البصرية الخاصة بالمستخدم في اللغة غير المنظمة غير واضحة. تظهر هذه المشكلة في مجالات متعددة، بدءًا من استرجاع الصور الشخصية وحتى التفاعل الشخصي مع الأجهزة الذكية. نقدم إعدادًا تعليميًا جديدًا يُسمى الرؤية واللغة الشخصية (PerVL) مع قاعدتين جديدتين للمعايير لاسترجاع وتقسيم المفاهيم الشخصية "في البرية". في PerVL، يجب تعلم المفاهيم الشخصية (1) بشكل مستقل عن مهمة ما بعد التدريب، (2) السماح للنموذج المدرب مسبقًا بالاستدلال عنها باستخدام اللغة الحرة، و(3) عدم الحاجة إلى أمثلة سلبية شخصية. نقترح هندسة لحل PerVL تعمل من خلال توسيع مفردات الإدخال للنموذج المدرب مسبقًا بإضافة متجهات كلمات جديدة للمفاهيم الشخصية الجديدة. يمكن للنموذج بعد ذلك الاستدلال عن هذه المفاهيم ببساطة من خلال استخدامها في جملة. نوضح أن أسلوبنا يتعلم المفاهيم البصرية الشخصية من عدد قليل من الأمثلة ويمكنه تطبيقها بكفاءة في استرجاع الصور والتقسيم الدلالي باستخدام استفسارات نصية غنية.