19 天前

一种用于从单张2D图像生成3D模型而无需渲染的有效损失函数

Nikola Zubić, Pietro Liò
一种用于从单张2D图像生成3D模型而无需渲染的有效损失函数
摘要

可微分渲染是一种在单视图三维重建任务中表现极为成功的技术。当前的渲染方法通常基于渲染图像与给定视角下真实图像之间的像素级损失,来优化三维形状的参数。这些模型依赖于渲染过程、可见性处理以及着色模型的评估,计算开销较大。本文的主要目标是证明:我们可以在不使用传统渲染步骤、可见性处理及着色模型评估的前提下,依然获得与现有最先进模型相当甚至更优的重建效果。为此,我们首先采用与Insafutdinov与Dosovitskiy所使用的相同CNN架构,用于预测点云形状及姿态。其次,提出一种新颖且高效的损失函数,该函数评估重建的三维点云投影在覆盖真实物体轮廓(silhouette)方面的表现。随后,利用泊松表面重建(Poisson Surface Reconstruction)算法将重建得到的点云转换为三维网格。最后,基于生成对抗网络(GAN)对特定三维网格进行纹理映射,从而仅从单张二维图像生成具有真实感纹理的三维网格。我们在多个公开数据集(包括ShapeNet、CUB-200-2011和Pascal3D+)上对所提方法进行了全面评估,结果表明该方法达到了当前最优的性能水平,在重建精度、表现力以及训练效率等方面均显著优于现有的监督与无监督方法,以及各类三维表示方法。