توليد الرسم البياني للمشهد من الأشياء والعبارات وDescriptions المناطق

اكتشاف الأشياء، وإنشاء الرسم البياني للمشهد، ووصف المناطق، وهي مهام فهم المشهد على مستويات معنوية مختلفة، مرتبطة ببعضها البعض: يتم إنشاء الرسوم البيانية للمشهد فوق الأشياء المكتشفة في الصورة مع التنبؤ بالعلاقة الثنائية بينها، بينما يوفر وصف المناطق وصفًا لغويًا للأجسام، صفاتها، علاقاتها والمعلومات السياقية الأخرى. في هذا العمل، بهدف الاستفادة من الروابط المتبادلة عبر المستويات المعنوية، نقترح نموذج شبكة عصبية جديد يُطلق عليه شبكة الوصف المتعددة المستويات (MSDN)، لحل هذه المهام الثلاثة المرئية بشكل مشترك وفي طريقة من النهاية إلى النهاية. يتم أولاً توحيد الأجسام والعبارات ومناطق الوصف باستخدام رسم بياني ديناميكي بناءً على اتصالاتها الفضائية والمعنوية. ثم يتم استخدام هيكل تحسين الميزات لتمرير الرسائل عبر ثلاث مستويات من المهام المعنوية عبر الرسم البياني. نقيس أداء النموذج المتعلم على ثلاث مهام ونظهر أن التعلم المشترك عبر هذه المهام الثلاث يمكن أن يحقق تحسينات متبادلة على النماذج السابقة. بشكل خاص، في مهمة إنشاء الرسم البياني للمشهد، تتفوق طريقتنا المقترحة على أفضل الطرق الحالية بأكثر من 3% هامش (margin).