基于能量模型的流对比估计

本文提出了一种联合训练能量模型（energy-based model）与流模型（flow-based model）的方法，其中两个模型通过共享的对抗性价值函数进行迭代更新。该联合训练方法具有以下特性：（1）能量模型的更新基于噪声对比估计（noise contrastive estimation），其中流模型充当强噪声分布；（2）流模型的更新近似最小化流模型与数据分布之间的Jensen-Shannon散度；（3）与生成对抗网络（GAN）通过生成器模型隐式估计概率分布不同，本方法显式地估计数据上的两个概率分布。通过所提出的方法，我们在流模型的生成质量方面实现了显著提升，并验证了所学习的能量模型在无监督特征学习中的有效性。此外，该训练方法可轻松扩展至半监督学习场景，并取得了与当前最先进半监督学习方法相媲美的性能表现。