2 个月前

用于文本分类的K均值路由组合编码胶囊网络

Hao Ren; Hong Lu
用于文本分类的K均值路由组合编码胶囊网络
摘要

文本分类是一个具有挑战性的问题,其目标是识别文本的类别。在训练过程中,词嵌入占据了大量参数。在计算资源有限的情况下,这间接限制了后续网络设计的能力。为了减少参数数量,最近提出了组合编码机制。基于此,本文进一步探讨了组合编码,并提出了一种组合加权编码方法。我们应用胶囊网络来建模词嵌入之间的关系,并提出了一种基于k-means聚类理论的新路由算法,以充分挖掘词嵌入之间的关系。结合我们的组合加权编码方法和路由算法,我们设计了一个用于文本分类的神经网络。在八个具有挑战性的文本分类数据集上进行的实验表明,所提出的方法在显著减少参数数量的情况下,达到了与现有最先进方法相当的准确性。

用于文本分类的K均值路由组合编码胶囊网络 | 最新论文 | HyperAI超神经