摘要
在深度卷积神经网络（DCNNs）进行图像分类任务时，点卷积（pointwise convolutions）的参数量会因前一层输出的输入通道数与滤波器数量的乘积而迅速增加。已有研究表明，通过使用子网络替代点卷积层，可在显著减少参数量和浮点运算次数的同时，保持模型的学习能力。本文提出一种改进方案，用于降低DCNN中点卷积的计算复杂度，该方案基于交错分组滤波器（interleaved grouped filters），且不依赖于通道数与组数之间的整除约束。所提出的方案采用分组点卷积结构，其中每一组仅处理输入通道的一部分。该方法引入一个超参数 $ C_h $，表示每组所需的通道数。该方案的子网络由两个连续的卷积层 $ K $ 和 $ L $ 构成，二者之间通过一个交错层连接，并在末端进行求和操作。层 $ K $ 与 $ L $ 的滤波器分组数量以及每组的滤波器数量，由原始输入通道数和滤波器总数对 $ C_h $ 的精确整除结果决定。若无法实现精确整除，则原层将无法被替换。本文进一步优化了先前算法，允许对输入通道进行复制，并允许多个组具有不同数量的滤波器，从而有效应对非精确整除的情况。这一改进使得所提方案在浮点运算次数上比先前方法进一步减少11%，可训练参数量减少10%。我们在EfficientNet-B0作为基准架构的基础上进行了实验，并在CIFAR-10、结直肠癌组织病理学（Colorectal Cancer Histology）以及疟疾（Malaria）三个数据集上进行了分类测试。实验结果表明，对于每个数据集，该优化方法分别实现了EfficientNet-B0可训练参数量减少76%、89%和91%的显著压缩，同时保持了原有的测试分类准确率。