16일 전
ZJUKLAB, SemEval-2021 Task 4: 추상적 의미 이해를 위한 언어 모델을 활용한 음성 증강
Xin Xie, Xiangnan Chen, Xiang Chen, Yong Wang, Ningyu Zhang, Shumin Deng, Huajun Chen

초록
이 논문은 SemEval Task4의 세 가지 하위 과제, 즉 추상적 의미에 대한 독해(Reading Comprehension of Abstract Meaning, ReCAM)에 대한 우리 시스템을 제안한다. 본 연구에서는 모델 학습에 사용된 알고리즘과 알고리즘의 튜닝 과정, 최적의 모델 선택 방법을 설명한다. ReCAM 과제와 언어 사전 훈련(language pre-training) 간의 유사성에 착안하여, 간단하면서도 효과적인 기술인 언어 모델을 활용한 음성 증강(negative augmentation) 기법을 제안한다. 평가 결과는 제안한 접근법의 효과성을 입증한다. 제안한 모델은 하위 과제 1과 하위 과제 2의 공식 테스트 세트에서 각각 87.9%와 92.8%의 정확도로 4위를 기록하였다. 또한, 포괄적인 모델 분석을 수행하여 흥미로운 오류 사례를 관찰하였으며, 이러한 사례는 향후 연구에 기여할 수 있을 것으로 기대된다.