HyperAIHyperAI

Command Palette

Search for a command to run...

基于能量模型的流对比估计

Ruiqi Gao Erik Nijkamp Diederik P. Kingma Zhen Xu Andrew M. Dai Ying Nian Wu

摘要

本文提出了一种联合训练能量模型(energy-based model)与流模型(flow-based model)的方法,其中两个模型通过共享的对抗性价值函数进行迭代更新。该联合训练方法具有以下特性:(1)能量模型的更新基于噪声对比估计(noise contrastive estimation),其中流模型充当强噪声分布;(2)流模型的更新近似最小化流模型与数据分布之间的Jensen-Shannon散度;(3)与生成对抗网络(GAN)通过生成器模型隐式估计概率分布不同,本方法显式地估计数据上的两个概率分布。通过所提出的方法,我们在流模型的生成质量方面实现了显著提升,并验证了所学习的能量模型在无监督特征学习中的有效性。此外,该训练方法可轻松扩展至半监督学习场景,并取得了与当前最先进半监督学习方法相媲美的性能表现。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于能量模型的流对比估计 | 论文 | HyperAI超神经