
摘要
归一化流(Normalizing flows)是输入与潜在表示之间具有完全可分解分布的双射映射,因其能够实现精确的似然评估和高效的采样而备受青睐。然而,由于双射性约束限制了模型的宽度,其有效容量往往不足。为此,我们提出通过逐步向中间表示添加噪声来提升模型能力。这些噪声的预处理方式基于先前的可逆单元,我们称之为单元间耦合(cross-unit coupling)。所提出的可逆Glow类模块通过融合密集连接块与Nystrom自注意力机制,显著增强了模型的表达能力。由于单元间耦合与模块内耦合均依赖于密集连接结构,我们将该架构命名为DenseFlow。实验结果表明,所提出的方法带来了显著的性能提升,并在中等计算资源预算下实现了当前最先进的密度估计效果。