15 天前

iFlow:基于统一编码器的高效无损压缩数值可逆流

Shifeng Zhang, Ning Kang, Tom Ryder, Zhenguo Li
iFlow:基于统一编码器的高效无损压缩数值可逆流
摘要

据估计,2020年全球产生的数据量达到59 ZB(即5.9 × 10¹³ GB),由此带来的数据存储与传输成本极为巨大。幸运的是,近年来深度生成模型的进展推动了一类新型“神经压缩”(neural compression)算法的发展,这类算法在压缩比方面显著优于传统的编码器(codecs)。然而,由于神经压缩在带宽利用方面存在局限,其在商业应用中尚未获得广泛兴趣。因此,开发高效且实用的压缩框架具有重要的现实意义。本文探讨了基于归一化流(normalizing flows)的无损压缩方法,该方法在实现高压缩比方面展现出巨大潜力。为此,我们提出了一种名为iFlow的新方法,用于实现高效的无损数据压缩。首先,我们设计了模块化尺度变换(Modular Scale Transform, MST),并引入了一类基于MST的新型数值可逆流变换家族。随后,我们提出了统一基底转换系统(Uniform Base Conversion System, UBCS),这是一种快速的均匀分布编码器,被集成至iFlow框架中,从而实现了高效的压缩性能。实验结果表明,iFlow在压缩比方面达到了当前最优水平,且其编码速度比其他高性能方案快达5倍。此外,本文所提出的技术可广泛应用于各类基于流的压缩算法,显著提升其编码效率,具有良好的通用性和推广价值。

iFlow:基于统一编码器的高效无损压缩数值可逆流 | 最新论文 | HyperAI超神经