MADrive：增强记忆的驾驶场景建模

近期在场景重建领域的进展已经推动了使用3D高斯样条对自动驾驶（AD）环境进行高度逼真的建模。然而，由此产生的重建结果仍然与原始观测紧密相关，难以支持显著改变或全新驾驶场景的高真实感合成。本研究引入了MADrive，这是一种增强记忆的重建框架，旨在通过从大规模外部记忆库中检索视觉相似的3D资产来替代观测到的车辆，从而扩展现有场景重建方法的能力。具体而言，我们发布了MAD-Cars，这是一套精心整理的数据集，包含约70,000段在实际环境中拍摄的360度汽车视频，并提出了一种检索模块，该模块能够在记忆库中找到最相似的汽车实例，从视频中重建相应的3D资产，并通过方向对齐和重新照明将其整合到目标场景中。最终的替换提供了场景中车辆的完整多视角表示，从而实现了显著改变配置下的高真实感合成，这一点已在我们的实验中得到验证。项目页面：https://yandex-research.github.io/madrive/