18 天前

基于Transformer-Capsule的意图识别模型

{Michał Lew, Aleksander Obuchowski}
摘要

意图识别是自然语言理解(NLU)系统中最关键的任务之一,而如今在设计智能对话系统方面尤为重要。本文提出了一种新颖的意图识别方法,该方法将Transformer架构与胶囊网络(Capsule Networks)相结合。实验结果表明,该混合架构在性能上优于原始的胶囊网络NLU模型,并在ATIS、AskUbuntu和WebApp等标准数据集上取得了当前最优(state-of-the-art)的识别效果。