2 个月前

注意力编码器网络用于目标情感分类

Youwei Song; Jiahai Wang; Tao Jiang; Zhiyue Liu; Yanghui Rao
注意力编码器网络用于目标情感分类
摘要

目标情感分类旨在确定针对特定目标的情感倾向。以往的大多数方法通过循环神经网络(RNN)和注意力机制来建模上下文和目标词。然而,RNN难以并行化处理,且截断的时间反向传播使得其在记忆长时依赖模式方面存在困难。为了解决这一问题,本文提出了一种基于注意力的编码器网络(Attentional Encoder Network, AEN),该网络摒弃了递归结构,采用基于注意力的编码器来建模上下文与目标之间的关系。我们指出了标签不可靠性的问题,并引入了标签平滑正则化技术。此外,我们还应用了预训练的BERT模型进行此任务,并取得了新的最先进结果。实验和分析证明了我们模型的有效性和轻量级特性。

注意力编码器网络用于目标情感分类 | 最新论文 | HyperAI超神经