11일 전

GL-GIN: 병렬 생성 기반의 빠르고 정확한 다중 의도 탐지 및 슬롯 채우기 모델

Libo Qin, Fuxuan Wei, Tianbao Xie, Xiao Xu, Wanxiang Che, Ting Liu
GL-GIN: 병렬 생성 기반의 빠르고 정확한 다중 의도 탐지 및 슬롯 채우기 모델
초록

다중 의도 SLU는 문장 내 여러 개의 의도를 처리할 수 있어 점점 더 많은 주목을 받고 있다. 그러나 최신의 공동 모델들은 자동 회귀(autoregressive) 접근 방식에 크게 의존하고 있어 두 가지 문제를 야기한다. 즉, 추론 속도가 느리고 정보 누출이 발생한다는 점이다. 본 논문에서는 다중 의도 탐지와 슬롯 채우기의 공동 처리를 위한 비자동 회귀(non-autoregressive) 모델을 탐색하여 더 빠르고 정확한 성능을 달성하고자 한다. 구체적으로, 지역적 슬롯 인지 그래프 상호작용 레이어와 전역적 의도-슬롯 그래프 상호작용 레이어를 포함하는 글로벌-로컬 그래프 상호작용 네트워크(Gl-GIN)를 제안한다. 지역적 레이어는 슬롯 간의 종속성을 모델링하여 비조정된 슬롯 문제를 완화하는 데 기여하고, 전역적 레이어는 문장 내 다수의 의도와 모든 슬롯 간의 상호작용을 효과적으로 모델링한다. 공개 데이터셋 두 개에서 수행한 실험 결과, 제안하는 프레임워크는 최고 성능을 달성하면서도 기존 방법 대비 11.5배 빠른 속도를 보였다.

GL-GIN: 병렬 생성 기반의 빠르고 정확한 다중 의도 탐지 및 슬롯 채우기 모델 | 최신 연구 논문 | HyperAI초신경