3 个月前

改进的去噪扩散概率模型

Alex Nichol, Prafulla Dhariwal
改进的去噪扩散概率模型
摘要

去噪扩散概率模型(Denoising Diffusion Probabilistic Models, DDPM)是一类生成模型,近期已被证明能够生成高质量的样本。我们发现,通过若干简单的改进,DDPM在保持优异样本质量的同时,也能实现具有竞争力的对数似然性能。此外,我们发现学习逆向扩散过程中的方差,可在几乎不损失样本质量的前提下,将前向传播次数减少一个数量级,这对模型的实际部署具有重要意义。我们还引入精确率(precision)与召回率(recall)来评估DDPM与生成对抗网络(GANs)在覆盖目标分布方面的表现。最后,我们表明,此类模型的样本质量与对数似然性能能够随着模型容量和训练计算资源的增加而平滑提升,展现出良好的可扩展性。相关代码已开源,地址为:https://github.com/openai/improved-diffusion。