التركيب البصري الحر من الهندسة: التحويلات دون افتراضات ثلاثية الأبعاد

هل يتطلب توليد مناظر جديدة من صورة واحدة نموذجًا هندسيًا؟ تُلزم الشبكات العصبية التلافيفية (CNNs) بالاعتماد على التلافيف المحلية، وبالتالي تحتاج إلى تحيّزات ثلاثية الأبعاد صريحة لتمثيل التحولات الهندسية. على النقيض من ذلك، نُظهر أن نموذجًا يعتمد على المحولات (transformer) يمكنه توليد مناظر جديدة تمامًا دون أي تحيّزات ثلاثية الأبعاد مُصممة يدويًا. يتم ذلك من خلال (أ) آلية انتباه عالمية لتعلم غير صريح للتطابقات الثلاثية الأبعاد على مسافات طويلة بين المنظور المصدري والمنظور المستهدف، و(ب) صيغة احتمالية ضرورية لالتقاط الغموض المتأصل في التنبؤ بمناظر جديدة من صورة واحدة، مما يتجاوز القيود التي كانت تُحدّد الطرق السابقة، والتي كانت مقتصرة على تغيرات صغيرة في الزاوية المرئية. قمنا بتقييم طرق مختلفة لدمج المعرفة ثلاثية الأبعاد (3D priors) في بنية المحولات. ومع ذلك، تُظهر تجاربنا أن مثل هذه المعرفة الهندسية غير مطلوبة، وأن المحولات قادرة على تعلّم العلاقات ثلاثية الأبعاد بين الصور بشكل غير صريح. علاوةً على ذلك، يتفوّق هذا النهج على أفضل النماذج الحالية من حيث الجودة البصرية، مع تغطية كاملة لتوزيع الاحتمالات الممكنة للنتائج. يمكن الوصول إلى الكود عبر الرابط: https://git.io/JOnwn