2 个月前

CONTRASTE:基于方面的提示进行监督对比预训练以提取方面情感三元组

Rajdeep Mukherjee; Nithish Kannen; Saurabh Kumar Pandey; Pawan Goyal
CONTRASTE:基于方面的提示进行监督对比预训练以提取方面情感三元组
摘要

现有的面向方面的情感三元组提取(ASTE)研究主要集中在开发更高效的微调技术以完成该任务。相比之下,我们的目标是提出一种通用方法,能够同时提升多个情感分析任务的下游性能。为此,我们介绍了CONTRASTE,这是一种利用对比学习(Contrastive Learning)来增强ASTE性能的新颖预训练策略。虽然我们的主要关注点是ASTE,但我们还展示了所提出的技巧在其他情感分析任务如ACOS、TASD和AESC上的优势。给定一个句子及其相关的(方面、意见、情感)三元组,首先,我们设计了基于方面的提示,并将相应的情感进行掩码处理。然后,通过对解码器生成的掩码项的方面感知情感表示应用对比学习,对编码器-解码器模型进行(预)训练。为了微调所获得的模型权重,我们提出了一种新颖的多任务方法,即将基础编码器-解码器模型与两个互补模块结合:基于标记的意见项检测器和基于回归的三元组计数估计器。通过在四个基准数据集上进行详尽的实验以及详细的消融研究,我们证明了每个所提组件的重要性,并实现了新的最先进的ASTE结果。