软扩散：面向通用损坏的得分匹配

我们定义了一类更广泛的噪声污染过程，该类过程推广了以往已知的扩散模型。为逆转此类广义扩散过程，我们提出了一种新的目标函数——软得分匹配（Soft Score Matching），该方法在理论上能够学习任意线性污染过程下的得分函数，并在CelebA数据集上取得了当前最优的性能表现。软得分匹配将污染过程直接嵌入网络结构中，其新设计的损失函数训练模型预测一个干净图像，该图像在经历污染后，能够与观测到的扩散结果相匹配。我们证明，在适当的正则性条件下，该目标函数能够学习到似然函数的梯度。此外，我们进一步提出了一种系统化的方法，用于为广义扩散过程选择合适的污染层级，并设计了一种新型采样方法，称为动量采样器（Momentum Sampler）。实验结果表明，我们的框架适用于多种广义线性污染过程，例如高斯模糊和掩码（masking）等。在CelebA-64数据集上，我们取得了1.85的FID分数，显著优于此前所有线性扩散模型。同时，与传统的去噪扩散模型相比，我们的方法在计算效率方面也展现出显著优势。