16 天前

Condensation-Net:一种具有跨通道池化层和虚拟特征图的内存高效网络架构

Tse-Wei Chen, Motoki Yoshinaga, Hongxing Gao, Wei Tao, Dongchao Wen, Junjie Liu, Kinya Osa, Masami Kato
Condensation-Net:一种具有跨通道池化层和虚拟特征图的内存高效网络架构
摘要

轻量级卷积神经网络是嵌入式视觉领域的重要研究方向。为在资源受限的硬件平台上实现图像识别任务,必须降低模型的内存占用和计算开销。本文的主要贡献如下:首先,提出一种针对特定网络结构(Condensation-Net)的处理算法,在不增加特征图最大内存存储的前提下,有效优化内存使用。该算法通过在将特征图存入内存前预先计算跨通道池化(cross-channel pooling)的结果,显著节省了26.5%的内存带宽。其次,实验表明,跨通道池化能够提升目标检测任务的精度,例如人脸检测。这是由于该机制增加了滤波器权重的数量。与Tiny-YOLOv2相比,在误报率(false-positive rate)为0.1的条件下,量化网络的检测精度提升了2.0%,全精度网络的精度提升了1.5%。最后,分析结果表明,所提出的硬件架构对支持跨通道池化的额外开销极小。为支持Condensation-Net而引入的额外内存开销仅为总存储容量的0.2%,额外门电路数量仅占总门数的1.0%。

Condensation-Net:一种具有跨通道池化层和虚拟特征图的内存高效网络架构 | 最新论文 | HyperAI超神经