HyperAIHyperAI

Command Palette

Search for a command to run...

评估手动生成特征在序列标注中的效用

Minghao Wu Fei Liu Trevor Cohn

摘要

传统观点认为,手工构建的特征对于深度学习模型来说是多余的,因为这些模型已经能够从语料库中自动学习到足够的文本表示。在本研究中,我们通过提出一种新的方法来验证这一观点,该方法旨在利用手工构建的特征作为新型混合学习方法的一部分,引入了特征自编码器损失组件。我们在命名实体识别(NER)任务上进行了评估,结果表明,加入词性、词形和词汇表的手工特征可以提高神经条件随机场(CRF)模型的性能。对于CoNLL-2003英语共享任务,我们获得了91.89的F1F_1F1分数,显著优于一系列极具竞争力的基线模型。此外,我们还进行了一项消融研究,展示了自编码的重要性,不仅限于将特征用作输入或输出之一,并且进一步证明了加入自编码器组件可以将训练需求减少至60%,同时保持相同的预测准确性。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供