11일 전

순환 신경망과 트랜스포머 모델을 이용한 담론 표현 구조 분석

{Mirella Lapata, Jiangming Liu, Shay B. Cohen}
순환 신경망과 트랜스포머 모델을 이용한 담론 표현 구조 분석
초록

우리는 IWCS-2019에서 진행된 DRS 구문 구조 분석 공유 과제의 일환으로 개발한 의사소통 표현 구조(DRS) 구문 분석 시스템에 대해 설명한다. 우리 시스템은 시퀀스-투-시퀀스 모델링 기반으로 설계되었다. 모델 구현을 위해 파이토치(PyTorch) 기반으로 구현된 오픈소스 신경 기계 번역 시스템인 OpenNMT-py를 사용하였다. 반복 신경망 기반의 다양한 인코더-디코더 모델과 트랜스포머(Transformer) 모델을 기반으로 한 모델들을 실험하였다. 실험은 평행 의미 베이스(PMB 2.2)의 표준 벤치마크 데이터셋을 이용하여 수행하였으며, 최적의 시스템은 DRS 구문 분석 공유 과제에서 F1 점수 84.8%를 달성하였다.

순환 신경망과 트랜스포머 모델을 이용한 담론 표현 구조 분석 | 최신 연구 논문 | HyperAI초신경