2달 전

Transformer와 Paraphrase 규칙을 통합한 문장 단순화

Sanqiang Zhao; Rui Meng; Daqing He; Saptono Andi; Parmanto Bambang
Transformer와 Paraphrase 규칙을 통합한 문장 단순화
초록

문장 단순화는 문장의 복잡성을 줄이면서 원래의 의미를 유지하는 것을 목표로 합니다. 현재 문장 단순화 모델은 기계 번역 연구에서 가져온 아이디어를 채택하여 일반-단순 문장 쌍으로부터 암시적으로 단순화 매핑 규칙을 학습합니다. 본 논문에서는 다층 및 다헤드 어텐션 아키텍처를 기반으로 하는 새로운 모델을 탐구하고, 실제 세계의 다양한 단순화 규칙을 포함하는 외부 동의어 지식베이스인 Simple PPDB (A Paraphrase Database for Simplification)를 통합하기 위한 두 가지 혁신적인 접근 방식을 제안합니다. 실험 결과, 이 통합은 두 가지 주요 이점을 제공함을 보여주었습니다: (1) 통합된 모델은 문헌에 나와 있는 여러 최신 기준 모델보다 문장 단순화 성능에서 우수하며 (2) 규칙 활용 분석을 통해 더 정확한 단순화 규칙을 선택하려고 합니다. 본 논문에서 사용된 코드와 모델은 https://github.com/Sanqiang/text_simplification 에서 확인할 수 있습니다.

Transformer와 Paraphrase 규칙을 통합한 문장 단순화 | 최신 연구 논문 | HyperAI초신경