11일 전
MISCA: 의도-슬롯 공액 주의를 통한 다중 의도 탐지 및 슬롯 채우기 위한 통합 모델
Thinh Pham, Chi Tran, Dat Quoc Nguyen

초록
다중 의도 탐지 및 슬롯 채우기 연구는 복잡한 실세계 상황과의 관련성으로 인해 점점 더 주목받고 있다. 최근의 고급 접근 방식 중 그래프 기반의 공동 모델들은 여전히 두 가지 잠재적 문제에 직면할 수 있다. 첫째, 초기 의도와 슬롯 기반으로 그래프를 구성할 때 발생하는 불확실성으로 인해, 의도-슬롯 상관 관계 정보가 잘못된 레이블 노드 위치로 전달될 수 있다는 점이며, 둘째, 토큰 수준에서 여러 의도 레이블을 직접 통합하는 방식은 토큰 수준의 의도 투표와 관련하여 잘못된 슬롯 예측을 유도할 수 있어 전반적인 성능 저하를 초래할 수 있다는 점이다. 이러한 두 가지 문제를 해결하기 위해 우리는 MISCA라는 공동 모델을 제안한다. MISCA는 의도-슬롯 공동 주의 메커니즘과 레이블 주의 메커니즘의 기반층을 도입하여, 그래프 구축 없이 의도와 슬롯 레이블 간의 상관 관계를 효과적으로 포착할 수 있도록 한다. 또한, 이 메커니즘들은 토큰 수준의 의도 정보에 의존하지 않고, 다수의 레이블 전용 표현 수준을 통해 의도에서 슬롯으로, 그리고 슬롯에서 의도로 양방향으로 상관 정보를 전달하는 데 기여한다. 실험 결과, MISCA는 기존 모델들을 모두 능가하며, MixATIS와 MixSNIPS 두 가지 벤치마크 데이터셋에서 새로운 최고 성능을 달성하였다. 이는 본 연구에서 제안한 주의 메커니즘의 효과성을 입증한다.