HyperAIHyperAI

Command Palette

Search for a command to run...

ViHealthBERT:面向越南语健康文本挖掘的预训练语言模型

Steven Quoc Hung Trung Huu and Truong Huy Duc and Bui Vu and Ta Vu Hoang and Hoang Nguyen and Tran Minh

摘要

预训练语言模型在实现自然语言处理(NLP)诸多任务的优异性能方面已变得至关重要。尽管低资源语言的单语预训练模型数量已显著增加,但其中大多数仍聚焦于通用领域,针对特定领域的强大基准语言模型仍十分有限。为此,我们提出了ViHealthBERT,这是首个面向越南语医疗健康领域的专用预训练语言模型。实验结果表明,该模型在所有与健康相关的数据集上均显著优于通用领域语言模型,展现出强劲的性能表现。此外,我们还构建了用于越南语医疗健康领域的两个任务数据集,分别为缩略语消歧(Acronym Disambiguation, AD)和常见问题(FAQ)摘要生成。我们已公开发布ViHealthBERT,旨在推动越南语特定领域自然语言处理的后续研究与下游应用发展。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
ViHealthBERT:面向越南语健康文本挖掘的预训练语言模型 | 论文 | HyperAI超神经