2달 전
End-to-End 신경망 기반 RST 스타일 담화 분석을 위한 간단하고 강력한 베이스라인
Naoki Kobayashi; Tsutomu Hirao; Hidetaka Kamigaito; Manabu Okumura; Masaaki Nagata

초록
RST 스타일 담화 분석 모델의 발전과 촉진을 위해 신뢰할 수 있는 실험 결과를 보고할 수 있는 강력한 기준선이 필요합니다. 본 논문에서는 기존의 간단한 분석 전략인 상향식(top-down) 및 하향식(bottom-up) 접근법을 다양한 트랜스포머 기반 사전 훈련 언어 모델과 통합하여 강력한 기준선을 탐구합니다. 두 개의 벤치마크 데이터셋에서 얻은 실험 결과는 분석 성능이 분석 전략보다는 사전 훈련된 언어 모델에 크게 의존함을 보여줍니다. 특히, DeBERTa를 사용할 때 하향식 분석기(bottom-up parser)가 현재 최고의 분석기와 비교하여 큰 성능 향상을 이루었습니다. 또한, 본 논문은 문 내(intra-sentential) 및 문간(multi-sentential) 분석과 핵심성(nuclearity) 예측에 대한 분석을 통해, 스패닝 마스킹(span-masking) 방식을 사용하는 언어 모델이 특히 분석 성능을 크게 향상시킨다는 점을 밝혔습니다.