摘要
扩散概率模型（Diffusion Probabilistic Models, DPMs）及其扩展模型已成为具有竞争力的生成模型，但在高效采样方面仍面临挑战。本文提出一种新型双边去噪扩散模型（Bilateral Denoising Diffusion Model, BDDM），该模型通过调度网络（schedule network）和得分网络（score network）共同参数化前向过程与反向过程，并采用一种新颖的双边建模目标进行训练。我们证明，该新提出的代理目标能够获得比传统代理目标更紧的对数边缘似然下界。此外，我们发现BDDM可继承任意DPM模型预训练的得分网络参数，从而实现调度网络的快速且稳定的训练，并优化采样过程中的噪声调度。实验结果表明，BDDM仅需三个采样步骤即可生成高保真度的音频样本。与现有最先进的基于扩散模型的神经声码器相比，BDDM在仅使用七步采样的情况下，生成的音频质量与人类语音无差异，且表现相当或更优，其速度分别比WaveGrad快143倍、比DiffWave快28.6倍。相关代码已开源，地址为：https://github.com/tencent-ailab/bddm。