2 个月前
具有混合连接的门控卷积网络用于图像分类
Chuanguang Yang; Zhulin An; Hui Zhu; Xiaolong Hu; Kun Zhang; Kaiqiang Xu; Chao Li; Yongjun Xu

摘要
我们提出了一种简单而有效的方法来减少DenseNet的冗余,通过显著减少堆叠模块的数量,并用我们的SMG(Squeezing Multi-kernel Group)模块替换原有的瓶颈模块,该模块增强了局部残差。此外,SMG模块配备了一个高效的两阶段流水线,旨在处理类似于DenseNet的架构,这些架构需要整合所有先前的输出,即通过层次卷积逐步压缩传入的信息丰富但冗余的特征,形成沙漏形状,然后通过多核深度卷积激发这些特征,其输出将更加紧凑并包含更多的多尺度信息特征。为了实现重用特征和新特征之间的有效融合,而不是简单的相加,我们引入了流行的注意力机制来开发一个遗忘门和一个更新门。由于采用了混合连接(全局密集连接和局部残差连接的嵌套组合)和门控机制,我们将该网络命名为HCGNet(Hybrid Connectivity and Gated Network)。在CIFAR和ImageNet数据集上的实验结果表明,HCGNet比DenseNet具有更高的效率,并且在复杂度较低的情况下也能显著优于最先进的网络。此外,HCGNet还通过网络解剖和对抗防御分别展示了出色的可解释性和鲁棒性。在MS-COCO数据集上,HCGNet能够持续学习到比流行骨干网络更好的特征。