Command Palette
Search for a command to run...
语义角色的自动标注
语义角色的自动标注
Daniel Gildea
摘要
我们提出了一个用于识别语义框架中句子成分所填充的语义关系(即语义角色)的系统。从句法分析树中提取各种词汇和句法特征,并利用人工标注的训练数据训练统计分类器。
一句话总结
加州大学伯克利分校与国际计算机科学研究所的研究人员提出了一种统计系统,该系统从解析树中导出词汇和句法特征,并在人工标注数据上训练分类器,从而自动标注语义角色。
核心贡献
-
提出了一种统计系统,用于识别语义角色。该系统通过将框架元素指派给句子成分来工作,利用从解析树中提取的词汇和句法特征,并在人工标注数据上训练分类器。
-
该方法在语义框架层面定义角色,而不是通过普遍的主题角色来定义。研究还发现词汇中心词统计信息是最有用的特征类型,并且需要组合特征以应对数据稀疏性。
-
在包含 67 个框架、1,462 个目标谓词、49,013 个标注句子和 99,232 个框架元素标签的 FrameNet 初始语料库上进行的实验显示了相当高的准确率,并且组合特征模型优于任何单一特征类别。
引言
语义角色标注为句子成分分配 AGENT、VEHICLE 或 TOPIC 等参与者,从而提供一个浅层语义层,可用于信息抽取、词义消歧、机器翻译、文本摘要以及更广泛的语言建模。在这种设定中,语义角色通过框架进行建模,框架将相关谓词分组并共享角色清单,例如 “argue”“debate” 和 “gossip” 等动词所调用的交谈框架。早期系统通常依赖手工构建的语法或狭窄领域模板,导致开发成本高昂,并限制了在通用语言中的覆盖范围。作者通过将语义角色标注视为统计学习任务来处理这一问题,这与解析、词性标注和词义消歧类似。作者基于 FrameNet 语料库构建系统,利用 FrameNet 的框架元素、词汇示例和人工标注句子,自动为成分分配语义角色。
数据集
-
作者使用 FrameNet 语料库的初始版本进行框架级语义角色标注实验。
-
数据围绕语义框架组织,而不是围绕单个动词特定的角色。框架表示图式化情境,并关联语义相关的词,例如表达交谈、争论或讨论的动词和名词。
-
语料库包含从 12 个一般语义域中选出的 67 个框架。示例领域包括运动、认知和交流。
-
在这些框架中,有 1,462 个不同词汇谓词被标注为目标词。这些目标词包括 927 个动词、339 个名词和 175 个形容词。
-
标注包含 49,013 个句子。每个句子都与目标词和框架级语义角色相关联。
-
数据集包含 99,232 个标注的框架元素。这些框架元素不包括目标词本身,并根据框架标注为 PROTAGONIST、MEDIUM 或 TOPIC 等角色。
-
论文使用这些数据,通过中间框架级角色来表示语义角色标注,避免需要一组很小的完全普遍的抽象角色,例如 AGENT 或 PATIENT。
-
给定文本没有描述裁剪、训练集和评估子集划分、混合比例,或除框架、目标词、句子和框架元素标注之外的额外元数据构造。
方法
作者将框架元素标注分解为两个操作:确定成分边界,以及为每个提取出的成分分配语义角色。对于角色分配,他们使用从标注数据中训练得到的统计分类器,并将其应用于已解析的句子。流程首先对训练句子运行 Collins parser,将标注的框架元素与解析成分匹配,并从字符串和解析树中提取语言特征。在测试阶段,解析器应用于新句子,并生成相同的特征。所报告的句角色标注组件使用标注边界,而边界检测作为单独问题处理。解析器输出与语义标注之间的对齐如图所示。
使用若干特征来表示每个候选成分。短语类型来自跨越框架元素的解析成分的句法类别。如果测试时没有找到边界完全匹配的成分,则使用从候选左边界开始并完全位于候选内部的最大成分。对于名词短语,语法功能通过在解析树中定位最近的 S 或 VP 祖先来近似,其中 S 祖先被视为主语,VP 祖先被视为宾语。位置记录候选出现在目标谓词之前还是之后。语态通过对被动助动词和过去分词进行模式匹配来推断,以区分主动谓词和被动谓词。中心词存储成分的词汇中心词,因为代词或普通名词等词经常表示特定语义角色。
训练语料库被视为经验统计信息的来源,但由于稀疏性,对整个特征集进行直接估计不可行。因此,作者基于选定特征组合的多个经验分布构建分类器,并组合它们的概率估计。对于语义角色 r 和条件特征集 F,基本估计量为
P(r∣F)=count(F)count(r,F)其中 count(r,F) 是具有角色 r 和特征组合 F 的训练实例数量,而 count(F) 是包含该条件事件的实例总数。在推理时,系统解析每个句子,生成对应的特征表示,评估可用的经验分布,并将具有最高组合概率的角色分配给每个候选框架元素。
实验
实验评估了一个基于 FrameNet 训练的统计语义角色标注系统,该系统通过从解析树和目标词身份中提取特征进行测试。研究比较并消融句法和词汇证据的组合,结果表明,主语性、位置等句法关系以及中心词信息都很重要,而对中心词进行聚类可以提高稀疏词汇案例的覆盖范围。另一项实验验证了自动框架元素边界识别,并发现在使用自动检测成分时角色标注仍然稳健。
示例说明交谈框架中的语义角色如何借助相关目标词表达,例如 argue 和 argument。同一组角色适用于动词用法和名词用法,涵盖参与者、主题和媒介。这支持在共享框架层面定义语义角色,而不是为每个目标词分别定义。Protagonist 角色出现在动词示例和名词示例中,包括一个组合的 Protagonists 角色。Topic 和 Medium 角色在两种目标词形式下并列展示。语义相关的词可以共享相同的框架级角色。
分布显示,仅使用目标词可以完全覆盖,但准确率较低;当覆盖范围足够时,添加短语类型、语法功能、位置和语态可以提高性能。基于中心词的特征在适用时较准确,但目标词与中心词的组合覆盖范围低得多,从而降低其整体有用性。整体结果最强的模型组合了句法相关特征与目标词信息,同时保持广泛覆盖。仅目标词可以完全覆盖,但整体性能最弱。短语类型、语法功能和位置相关特征提高了角色识别准确率。中心词与目标词组合具有较高准确率,但覆盖范围有限,限制了整体性能。
训练数据表明,abduct 的角色线索强烈依赖于短语类型和语法功能。具有主语功能的名词短语在 AGENT 和 THEME 之间分布,而具有宾语功能的名词短语始终表现为 THEME。介词短语和副词短语提供的线索较弱或更稀疏,其中副词短语表示 MANNER。abduct 的主语名词短语在 AGENT 和 THEME 之间具有歧义。abduct 的宾语名词短语与 THEME 强相关。语法功能线索仅适用于名词短语,因此非名词短语主要依赖短语类型。
在开发集上,组合概率分布的不同方式给出非常相似的角色标注准确率。基于回退的线性插值略优于其他组合策略,而几何平均组合仍然接近简单线性插值。这些方法都明显优于最常见角色基线。在报告的结果中,回退线性插值是最强的组合方法。几何平均组合与简单线性插值相当。所有概率组合方法都显著优于最常见角色基线。
回退线性插值系统在测试集上的结果低于基线开发性能,表明从开发集转向测试集时出现了一些性能下降。另一个报告分数在开发集和测试集之间保持非常接近,说明这两个度量在更大的 7900 次观测测试集上表现不同。测试集性能低于 80.4% 的开发集基线。百分比形式的分数从开发集到测试集几乎不变。
实验评估了交谈相关谓词的语义角色识别,结果表明相关动词和名词形式可以共享框架级角色,用于表示参与者、主题和媒介。特征分析表明,目标词信息提供广泛覆盖但准确率有限,而句法和中心词特征在适用时可以提高性能,组合句法与目标词的模型提供最佳的整体平衡。进一步分析显示,角色线索取决于短语类型和语法功能,不同概率组合方法相对于常见角色基线产生相似增益,尽管某些系统从开发集到测试集表现出稳定性下降。