基于潜在扩散模型的高分辨率图像合成

通过将图像生成过程分解为一系列去噪自编码器的顺序应用，扩散模型（DMs）在图像数据及其他领域实现了最先进的合成结果。此外，这些模型的公式化允许引入一种引导机制来控制图像生成过程，而无需重新训练。然而，由于这些模型通常直接在像素空间中运行，强大的扩散模型的优化往往需要消耗数百个GPU天数，且由于顺序评估的原因，推理成本较高。为了在有限的计算资源上进行扩散模型训练同时保留其质量和灵活性，我们将其应用于强大的预训练自编码器的潜在空间中。与以往的研究不同，对这种表示进行扩散模型训练首次达到了复杂度降低与细节保留之间的近乎最优平衡点，极大地提高了视觉保真度。通过在模型架构中引入交叉注意力层，我们将扩散模型转变为强大的、灵活的一般条件输入（如文本或边界框）生成器，并使得高分辨率合成以卷积方式成为可能。我们的潜在扩散模型（LDMs）在图像修复方面达到了新的技术水平，并在包括无条件图像生成、语义场景合成和超分辨率在内的各种任务中表现出高度竞争力，同时相比基于像素的DMs显著降低了计算需求。代码可在 https://github.com/CompVis/latent-diffusion 获取。