초록
대화 모델의 신경망은 언어의 일반화된 잠재 표현에 의존합니다. 본 논문에서는 여러 단계의 세밀도에서 언어의 다중 표현을 명시적으로 학습하는 새로운 훈련 절차를 소개합니다. 다단계 세밀도 훈련 알고리즘은 부정적인 후보 응답 샘플링 메커니즘을 수정하여 학습된 잠재 표현의 세밀도를 제어합니다. MultiWOZ 데이터셋과 Ubuntu 대화 코퍼스를 사용한 다음 발화 검색 작업에서 성능 향상이 크게 관찰되었습니다. 분석 결과는 여러 단계의 세밀도 표현이 실제로 학습되고 있으며, 다단계 세밀도 훈련이 하류 작업으로의 더 나은 전이를 촉진한다는 것을 유의미하게 입증하고 있습니다.