2달 전
Transformer와 Paraphrase 규칙을 통합한 문장 단순화
Sanqiang Zhao; Rui Meng; Daqing He; Saptono Andi; Parmanto Bambang

초록
문장 단순화는 문장의 복잡성을 줄이면서 원래의 의미를 유지하는 것을 목표로 합니다. 현재 문장 단순화 모델은 기계 번역 연구에서 가져온 아이디어를 채택하여 일반-단순 문장 쌍으로부터 암시적으로 단순화 매핑 규칙을 학습합니다. 본 논문에서는 다층 및 다헤드 어텐션 아키텍처를 기반으로 하는 새로운 모델을 탐구하고, 실제 세계의 다양한 단순화 규칙을 포함하는 외부 동의어 지식베이스인 Simple PPDB (A Paraphrase Database for Simplification)를 통합하기 위한 두 가지 혁신적인 접근 방식을 제안합니다. 실험 결과, 이 통합은 두 가지 주요 이점을 제공함을 보여주었습니다: (1) 통합된 모델은 문헌에 나와 있는 여러 최신 기준 모델보다 문장 단순화 성능에서 우수하며 (2) 규칙 활용 분석을 통해 더 정확한 단순화 규칙을 선택하려고 합니다. 본 논문에서 사용된 코드와 모델은 https://github.com/Sanqiang/text_simplification 에서 확인할 수 있습니다.