2달 전

事전 학습 및 주의 기반 신경망을 이용한 노에틱 과제 지향 대화 시스템 구축

Jia-Chen Gu; Tianda Li; Quan Liu; Xiaodan Zhu; Zhen-Hua Ling; Yu-Ping Ruan
事전 학습 및 주의 기반 신경망을 이용한 노에틱 과제 지향 대화 시스템 구축
초록

NOESIS II 챌린지는 제8회 대화 시스템 기술 챌린지(DSTC 8)의 트랙 2로, DSTC 7의 확장판입니다. 이 트랙은 배포된 작업 지향 대화 시스템을 만드는 데 중요한 새로운 요소들을 포함하고 있습니다. 본 논문에서는 이 챌린지의 모든 하위 과제에서 평가된 우리의 시스템을 설명합니다. 우리는 사전 학습된 주의력 기반 네트워크를 다중 턴 대화 시스템에 활용하는 문제를 연구하였습니다. 또한, 다중 턴 대화 시스템에 적합하도록 사전 학습된 언어 모델을 조정하기 위한 여러 적응 방법을 제안하였습니다. 이는 대화 시스템의 고유한 특성을 유지하기 위함입니다. DSTC 8 트랙 2의 공개 평가 결과에서, 우리가 제안한 모델들은 각각 하위 과제 1에서 4위, 하위 �과제 2에서 3위, 그리고 하위 과제 3과 하위 과제 4에서 각각 1위를 차지하였습니다.

事전 학습 및 주의 기반 신경망을 이용한 노에틱 과제 지향 대화 시스템 구축 | 최신 연구 논문 | HyperAI초신경