20 天前

CTLR@WiC-TSV:基于标记输入与预训练模型的目标义项验证

{Gaël Dias, Elvys Linhares Pontes, José G. Moreno}
CTLR@WiC-TSV:基于标记输入与预训练模型的目标义项验证
摘要

本文介绍了CTRL团队在SemDeep6会议举办的“上下文中的词义消歧验证”挑战赛(WiC-TSV)中的参与情况。我们的方法基于一种简化的目标词标注方案,随后利用已知的预训练神经模型进行分类。特别地,通过引入标记(marker)机制,模型能够获取位置信息,从而更准确地识别需要消歧的目标词。在挑战赛中的实验结果表明,我们的方法在性能上优于其他参赛者(准确率提升11.4个百分点),同时也显著超越了多个强基线模型(准确率提升1.7个百分点)。

CTLR@WiC-TSV:基于标记输入与预训练模型的目标义项验证 | 论文 | HyperAI超神经