17 天前

基于注意力机制的卷积神经网络用于语义关系抽取

{Yatian Shen, Xuanjing Huang}
基于注意力机制的卷积神经网络用于语义关系抽取
摘要

如今,神经网络在关系分类任务中发挥着重要作用。本文提出了一种新颖的基于注意力机制的卷积神经网络架构,用于该任务。我们的模型充分融合了词嵌入、词性标注嵌入以及位置嵌入信息。基于词级别的注意力机制能够更准确地识别出句子中对两个目标实体关系最具影响的部分。该架构能够从任务相关的标注数据中自动学习关键特征,无需依赖外部知识(如显式的依存句法结构)。在SemEval-2010任务8基准数据集上的实验结果表明,所提模型在性能上优于多种当前先进的神经网络模型,并且仅需极少的特征工程即可达到具有竞争力的分类效果。