13일 전

스피킹 언어 이해를 위한 토큰 수준의 의도 탐지 기능을 갖춘 스택 전파 프레임워크

Libo Qin, Wanxiang Che, Yangming Li, Haoyang Wen, Ting Liu
스피킹 언어 이해를 위한 토큰 수준의 의도 탐지 기능을 갖춘 스택 전파 프레임워크
초록

의도 탐지(intent detection)와 슬롯 채우기(slot filling)는 음성 언어 이해(SLU) 시스템을 구축하는 데 있어 두 가지 주요 과제이다. 이 두 과제는 밀접하게 연관되어 있으며, 슬롯 정보는 종종 의도에 크게 의존한다. 본 논문에서는 의도 정보를 보다 효과적으로 통합하여 슬롯 채우기를 보다 정확히 유도할 수 있는 새로운 SLU 프레임워크를 제안한다. 제안하는 프레임워크에서는 스택 전파(Stack-Propagation)를 활용한 공동 모델(joint model)을 채택하여, 의도 정보를 직접 슬롯 채우기의 입력으로 사용함으로써 의도의 의미적 지식을 효과적으로 포착할 수 있다. 또한 오류 전파를 더욱 완화하기 위해 스택 전파 프레임워크에 대해 토큰 단위의 의도 탐지 작업을 수행한다. 공개된 두 개의 데이터셋에서 수행한 실험 결과, 제안 모델은 기존의 모든 방법보다 큰 폭으로 우수한 성능을 보이며 최신 기술(SOTA) 수준에 도달함을 확인하였다. 마지막으로, 본 프레임워크에 양방향 인코더 표현 기반 트랜스포머(Bidirectional Encoder Representations from Transformers, BERT) 모델을 도입함으로써, SLU 작업에서 더욱 높은 성능 향상을 달성하였다.

스피킹 언어 이해를 위한 토큰 수준의 의도 탐지 기능을 갖춘 스택 전파 프레임워크 | 최신 연구 논문 | HyperAI초신경