HyperAI
Command Palette
Search for a command to run...
AsymmNet:基于非对称瓶颈的超轻量级卷积神经网络
AsymmNet:基于非对称瓶颈的超轻量级卷积神经网络
Haojin Yang Zhen Shen Yucheng Zhao
摘要
深度卷积神经网络(CNN)在众多应用领域取得了令人瞩目的成果。然而,由于移动设备和嵌入式设备的内存与计算资源受限,直接部署这类模型仍面临挑战。近年来,倒置残差块(inverted residual block)已成为紧凑型CNN架构设计的主流方案。在本工作中,我们对现有设计范式进行了全面分析,重新思考了倒置残差结构中两个逐点卷积(pointwise convolution)的功能特性。为此,我们提出了一种新型设计——非对称瓶颈结构(asymmetrical bottlenecks)。具体而言,我们调整了首个逐点卷积的通道维度,通过特征复用增强信息流动,并将节省下来的计算量迁移至第二个逐点卷积中。这一设计在不增加计算开销的前提下,进一步提升了模型精度。非对称瓶颈结构可作为现有CNN模块的即插即用替代方案,因此我们可基于适当的深度与宽度配置,轻松堆叠这些模块构建出全新的网络架构——AsymmNet。大量实验结果表明,相较于原始的倒置残差瓶颈结构,所提出的模块设计在移动端网络中表现更优,尤其适用于计算量低于220M MAdds的超轻量级CNN模型。相关代码已开源,地址为:https://github.com/Spark001/AsymmNet。