11 天前

基于BERT的基于方面的情感分析对抗训练

Akbar Karimi, Leonardo Rossi, Andrea Prati
基于BERT的基于方面的情感分析对抗训练
摘要

基于方面的情感分析(Aspect-Based Sentiment Analysis, ABSA)旨在提取情感及其对应的目标。为了帮助神经网络更好地泛化,通常需要收集大量标注数据,但这一过程往往耗时且劳动密集。作为一种替代方案,可通过在嵌入空间中进行对抗性生成过程,人工合成与真实样本相似的数据。尽管这些合成样本并非真实语句,但已有研究表明,它们可作为一种正则化手段,提升神经网络的鲁棒性。在本研究中,我们采用 Goodfellow 等人(2014)提出的对抗训练方法,将其应用于 Xu 等人(2019)提出的后训练 BERT(BERT-PT)语言模型,分别在情感分析的两个核心任务——方面抽取(Aspect Extraction)与方面情感分类(Aspect Sentiment Classification)上进行实验。通过消融研究对后训练 BERT 的性能进行优化后,我们提出一种新型架构——BERT 对抗训练模型(BERT Adversarial Training, BAT),以在 ABSA 任务中有效利用对抗训练机制。实验结果表明,所提出的 BAT 模型在两项任务上均优于后训练 BERT。据我们所知,这是首次将对抗训练应用于 ABSA 任务的研究。

基于BERT的基于方面的情感分析对抗训练 | 最新论文 | HyperAI超神经