تعلم تضمين السياقات متعددة الوسائط لوكالات المحادثة الموضعية

تهدف مبادرة المحادثات التفاعلية المتعددة الوسائط المُحاطة (SIMMC) 2.0 إلى إنشاء مساعدات افتراضية للتسوق قادرة على استقبال إدخالات متعددة الوسائط معقدة، مثل مظهر الكائنات البصرية وعبارات المستخدم. وتشمل المبادرة أربع مهام فرعية: التوضيح متعدد الوسائط (MM-Disamb)، وحل التماثل متعدد الوسائط (MM-Coref)، وتتبع حالة المحادثة متعددة الوسائط (MM-DST)، واسترجاع وإنشاء الاستجابة. في حين أن العديد من أنظمة المحادثات الموجهة للمهمة تتعامل عادةً مع كل مهمة فرعية بشكل منفصل، نقترح نموذجًا موحدًا لـ "المُشفّر-المُفكّك" متعدد الوسائط يُدرّس بشكل مشترك، يدمج الإدخالات البصرية، وينفّذ جميع المهام الأربع في آنٍ واحد، لتحقيق كفاءة أعلى. وقد حقق هذا النهج الفوز في المهام الفرعية الخاصة بحل التماثل متعدد الوسائط واسترجاع الاستجابة، وتم ترشيحه كمرشح للمركز الثاني في المهام الفرعية المتبقية، باستخدام نموذج موحد واحد في الدورة العاشرة لتحدي تقنيات أنظمة المحادثة (DSTC10)، مما وضع معيارًا عاليًا للفئة الجديدة من أنظمة المحادثات الموجهة للمهمة متعددة الوسائط.