تعلم استعادة شكل المشهد ثلاثي الأبعاد من صورة واحدة

رغم التقدم الملحوظ في تقدير العمق الأحادي الزاوية (monocular depth estimation) في البيئات الطبيعية، فإن الطرق الحديثة الأكثر تقدماً لا يمكن استخدامها لاستعادة شكل المشهد ثلاثي الأبعاد بدقة بسبب تحول العمق غير المعروف الناجم عن خسائر إعادة الإنشاء الثابتة تحت التحويل (shift-invariant reconstruction losses) المستخدمة في تدريب تقدير العمق على بيانات مختلطة، بالإضافة إلى طول بؤرة الكاميرا الممكن أن يكون غير معروف. نقوم بدراسة هذه المشكلة بالتفصيل ونقترح إطار عمل من مرحلتين يتنبأ أولاً بالعمق حتى نطاق وتحول غير معروفيْن من صورة أحادية زاوية واحدة، ثم يستخدم مرممات السحابة النقطية ثلاثية الأبعاد (3D point cloud encoders) للتنبؤ بالتحول المفقود في العمق وطول البؤرة الذي يسمح لنا باستعادة شكل مشهد ثلاثي الأبعاد واقعي. علاوة على ذلك، نقترح خسارة الانحدار المُعَدَّلة على مستوى الصورة وخسارة الهندسة القائمة على المتجهات العمودية (normal-based geometry loss) لتعزيز نماذج تقدير العمق التي تم تدريبها على قواعد بيانات مختلطة. ن�试 نموذج العمق الخاص بنا على تسعة قواعد بيانات لم يتم رؤيتها من قبل ونحقق أفضل الأداء في تعميم البيانات بدون تصوير سابق (zero-shot dataset generalization). الرمز البرمجي متاح عبر الرابط: https://git.io/Depth