神经辐射场 Neural Radiance Field (NeRF)

神经辐射场(Neural Radiance Field,简称 NeRF)是一种神经网络,可以从部分二维图像集重建复杂的三维场景。各种模拟、游戏、媒体和物联网 (IoT) 应用都需要三维图像,以使数字交互更加真实和准确。 NeRF 学习特定场景的场景几何形状、对象和角度,然后从新的视角渲染逼真的 3D 视图,自动生成合成数据来填补空白。它作为一种具有隐式场景表示的新型视场合成技术,在计算机视觉领域引起了广泛的关注。作为一种新颖的视图合成和三维重建方法,NeRF 模型在机器人、城市地图、自主导航、虚拟现实/增强现实等领域都有广泛的应用。

NeRF 的使用场景

NeRF 可以渲染复杂的场景并为各种用例生成图像。

  • 计算机图形学和动画:在计算机图形学中,可以使用 NeRF 创建逼真的视觉效果、模拟和场景。 NeRF 可以捕捉、渲染和投影逼真的环境、角色和其他图像。 NeRF 通常用于改进视频游戏图形和 VX 电影动画。
  • 医学影像:NeRF 有助于通过 MRI 等 2D 扫描创建全面的解剖结构。他们的技术可以重建身体组织和器官的真实表现,为医生和医疗技术人员提供有用的视觉背景。 
  • 虚拟现实:NeRF 是虚拟现实和增强现实模拟中的一项重要技术。由于它们可以准确地对 3D 场景进行建模,因此有助于创建和探索真实的虚拟环境。
  • 卫星图像和规划:卫星图像提供了一系列图像,NeRF 可使用这些图像来生成地球表面的综合模型。它对于需要数字化现实世界环境的现实捕捉 (RC) 用例非常有用。 

NeRF 的架构

NeRF 使用多层感知器 (MLP) 的神经网络组建(一种完全连接的神经网络架构)来创建 3D 场景的表示。 MLP 是神经网络和深度学习中的基础模型。它被训练于将空间坐标和观察方向映射到颜色和密度值。 MLP 使用一系列数学结构来组织输入(例如 3D 空间中的位置或 2D 观看方向)来确定 3D 图像中每个点的颜色和密度值。