HyperAIHyperAI

Command Palette

Search for a command to run...

密集连接的归一化流

Matej Grcić Ivan Grubišić Siniša Šegvić

摘要

归一化流(Normalizing flows)是输入与潜在表示之间具有完全可分解分布的双射映射,因其能够实现精确的似然评估和高效的采样而备受青睐。然而,由于双射性约束限制了模型的宽度,其有效容量往往不足。为此,我们提出通过逐步向中间表示添加噪声来提升模型能力。这些噪声的预处理方式基于先前的可逆单元,我们称之为单元间耦合(cross-unit coupling)。所提出的可逆Glow类模块通过融合密集连接块与Nystrom自注意力机制,显著增强了模型的表达能力。由于单元间耦合与模块内耦合均依赖于密集连接结构,我们将该架构命名为DenseFlow。实验结果表明,所提出的方法带来了显著的性能提升,并在中等计算资源预算下实现了当前最先进的密度估计效果。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供