2 个月前

基于加权核密度估计的快速动态路由

Suofei Zhang; Wei Zhao; Xiaofu Wu; Quan Zhou
基于加权核密度估计的快速动态路由
摘要

胶囊及其之间的动态路由是最近提出的深度神经网络结构。胶囊将数据以向量或矩阵的形式(而非传统的标量)进行分组,以表示目标实例的特定属性。除了姿态之外,胶囊还应附带一个概率值(通常称为激活值),以表示其存在的可能性。动态路由有助于胶囊在使用较少模型参数的情况下实现更强的泛化能力。然而,阻碍胶囊广泛应用的主要瓶颈在于路由过程中的计算成本较高。为了解决这一问题,我们在加权核密度估计框架内对现有的路由方法进行了推广,并提出了两种具有不同优化策略的快速路由方法。我们的方法几乎将路由的时间效率提高了40%,且性能下降可以忽略不计。通过堆叠卷积层和胶囊层的混合结构,我们构建了一个网络架构,能够处理分辨率为$64\times{64}$像素的输入。所提出的模型在多个基准测试中与其他领先方法实现了相当的性能。