2달 전

순차적 주의 기반 네트워크를 이용한 직관적인 엔드투엔드 응답 선택

Qian Chen; Wen Wang
순차적 주의 기반 네트워크를 이용한 직관적인 엔드투엔드 응답 선택
초록

DSTC7(대화 시스템 기술 도전 7)의 노에틱 엔드투엔드 응답 선택 트랙은 실제 세계 목표 지향적 대화 시스템을 위한 발화 분류의 최신 기술을 발전시키는 것을 목표로 합니다. 이 트랙에서는 참가자들이 다중 턴 맥락에서 후보 발화 집합 중 올바른 다음 발화를 선택해야 합니다. 본 논문은 이 도전 과제에서 두 개의 데이터셋 모두에서 최고 순위를 차지한 우리의 시스템들을 설명합니다. 하나는 특정 분야에 초점을 맞추고 작은 규모(상담)이며, 다른 하나는 더 다양하고 큰 규모(Ubuntu)입니다.이전의 최신 모델들은 맥락 모델링을 위해 다양한 턴 간의 발화 상호작용을 명시적으로 모델링하는 계층 구조 기반(발화 수준 및 토큰 수준) 신경망을 사용했습니다. 본 논문에서는 다중 턴 응답 선택을 위해 체인 시퀀스만을 기반으로 하는 순차 매칭 모델을 조사합니다. 우리의 결과는 과거에 다중 턴 응답 선택을 위한 순차 매칭 접근 방식의 잠재력이 아직 충분히 활용되지 않았음을 보여줍니다.도전 과제에서 최고 순위를 차지한 것 외에도, 제안된 모델은 모든 이전 모델, 포함하여 최신 계층 구조 기반 모델들을 능가하며, 두 개의 대규모 공개 다중 턴 응답 선택 벤치마크 데이터셋에서 새로운 최신 성능을 달성하였습니다.