2 个月前

AttaCut:一种快速准确的神经泰语分词器

Pattarawat Chormai; Ponrawee Prasertsom; Attapol Rutherford
AttaCut:一种快速准确的神经泰语分词器
摘要

词切分是泰语自然语言处理中的一个基本预处理步骤。目前现成的解决方案在基准测试上并不一致,因此很难比较它们的优劣。我们对三个不同领域的流行系统进行了速度和准确性的对比研究,发现最先进的深度学习系统运行缓慢,并且没有利用子词结构来指导模型。在此,我们提出了一种快速且准确的神经网络泰语词切分器,该切分器使用扩张卷积神经网络(CNN)滤波器来捕捉每个字符的上下文环境,并使用音节嵌入作为特征。我们的系统至少比之前的最先进系统快5.6倍,并在某些领域中表现更优。此外,我们还开发了首个基于机器学习的泰语正字法音节切分器,该切分器生成的音节嵌入可以作为词切分器的特征使用。

AttaCut:一种快速准确的神经泰语分词器 | 最新论文 | HyperAI超神经