2 个月前

密集和多样化的胶囊网络:让胶囊更好地学习

Sai Samarth R Phaye; Apoorva Sikka; Abhinav Dhall; Deepti Bathula
密集和多样化的胶囊网络:让胶囊更好地学习
摘要

近年来,深度学习方法的兴趣呈指数级增长,其准确率不断提高,计算复杂度也逐渐降低。特别是使用卷积神经网络(CNN)的架构在图像分类和目标识别任务中取得了最先进的性能。最近,胶囊网络(CapsNet)通过解决CNN在编码姿态和变形方面的固有限制,实现了显著的性能提升。受此进展的启发,我们不禁思考是否可以做得更好?为此,我们提出了密集胶囊网络(Dense Capsule Network, DCNet)和多样化胶囊网络(Diverse Capsule Network, DCNet++)。这两种框架通过用密集连接的卷积层替换标准卷积层来改进CapsNet,有助于将不同层学到的特征图整合到初级胶囊中。DCNet本质上增加了一个更深的卷积网络,从而促进了判别性特征图的学习。此外,DCNet++采用了一种层次结构来学习以细粒度到粗粒度方式表示空间信息的胶囊,这使得它在学习复杂数据时更加高效。使用基准数据集进行的图像分类实验验证了所提架构的有效性。DCNet在MNIST数据集上达到了最先进的性能(99.75%),并且总训练迭代次数比传统CapsNet减少了二十倍。此外,DCNet++在SVHN数据集上的表现优于CapsNet(96.90%),并在CIFAR-10数据集上以七倍减少的参数数量超越了七个CapsNet模型组成的集成模型0.31%。