엔티티 일관성 있는 엔드 투 엔드 작업 지향 대화 시스템 with KB 리트리버

지식 기반(KB)에 대한 질의는 엔드투엔드 작업 지향 대화 시스템에서 오랫동안 도전 과제로 여겨져 왔다. 기존의 시퀀스-투-시퀀스(Seq2Seq) 대화 생성 연구들은 KB 질의를 전체 KB에 대한 어텐션으로 처리하나, 생성된 엔티티 간의 일관성이 보장되지 않는 문제가 있었다. 본 논문에서는 생성된 엔티티의 일관성을 향상시키기 위해 두 단계에 걸쳐 KB를 질의하는 새로운 프레임워크를 제안한다. 첫 번째 단계에서는 응답이 일반적으로 단일 KB 행에 의해 지원될 수 있다는 관찰에 착안하여, 대화 이력에 기반해 가장 관련성이 높은 KB 행을 명시적으로 반환하는 KB 검색 컴포넌트를 도입한다. 이 검색 결과는 Seq2Seq 응답 생성 모델 내에서 관련 없는 엔티티를 필터링하는 데 활용되어 출력되는 엔티티 간의 일관성을 향상시킨다. 두 번째 단계에서는 가장 관련성이 높은 KB 열에 대한 어텐션 메커니즘을 추가로 수행한다. 레이블이 붙은 검색 데이터가 없어도 학습이 가능하도록 하기 위해, 원거리 감독(distant supervision)과 Gumbel-Softmax 기법을 활용한 두 가지 방법을 제안한다. 공개된 두 개의 작업 지향 대화 데이터셋에 대한 실험 결과, 제안하는 모델이 기준 시스템을 초월하며 엔티티 일관성을 갖춘 응답을 생성함으로써 그 효과성을 입증하였다.