17 天前

子空间扩散生成模型

Bowen Jing, Gabriele Corso, Renato Berlinghieri, Tommi Jaakkola
子空间扩散生成模型
摘要

基于得分的模型通过高维扩散过程将噪声映射为数据(反之亦然)来生成样本。我们质疑是否必须在整个高维空间中执行这一完整过程,从而承担由此带来的种种不便。为此,我们提出在数据分布逐渐演化为噪声的过程中,通过将其投影到低维子空间来限制扩散过程。当应用于当前最先进的模型时,我们的框架在保持相同去噪步数的前提下,不仅显著提升了生成样本的质量(在无条件CIFAR-10数据集上达到2.17的FID分数),同时大幅降低了推理阶段的计算开销。该框架完全兼容连续时间扩散模型,并保留了其灵活的功能特性,包括精确的对数似然计算和可控生成能力。代码已开源,地址为:https://github.com/bjing2016/subspace-diffusion。