HyperAIHyperAI

Command Palette

Search for a command to run...

基于双向长短期记忆模型和辅助损失的多语言词性标注

Barbara Plank Anders Søgaard Yoav Goldberg

摘要

双向长短期记忆(Bi-LSTM)网络在各种自然语言处理(NLP)序列建模任务中已证明其有效性,但对其依赖输入表示、目标语言、数据集大小和标签噪声的研究尚不多见。本文针对这些问题,评估了使用词嵌入、字符嵌入和Unicode字节嵌入的Bi-LSTM网络在词性标注任务中的表现。我们比较了不同语言和数据规模下Bi-LSTM与传统词性标注器的性能。此外,我们提出了一种新颖的Bi-LSTM模型,该模型将词性标注损失函数与一个辅助损失函数结合,以处理罕见词问题。该模型在22种语言上取得了最先进的性能,并且在形态学复杂的语言中表现尤为出色。我们的分析表明,Bi-LSTM对训练数据量和标签错误(在低噪声水平下)的敏感度低于先前假设。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供