2달 전
PALI-NLP at SemEval-2022 Task 4: 차별적 미세조정을 통한 고용주 및 경시 언어 감지용 트랜스포머 개선
Dou Hu; Mengyuan Zhou; Xiyang Du; Mengfei Yuan; Meizhi Jin; Lianxin Jiang; Yang Mo; Xiaofeng Shi

초록
고객을 대하는 비하적이고 우월감에 찬 언어(Patronizing and Condescending Language, PCL)는 큰 해를 끼치며, 인간 심사관이나 기존의 자연어 처리(NLP) 시스템 모두 이를 감지하기 어려워합니다. SemEval-2022 Task 4에서 우리는 PCL 감지를 위해 이러한 언어 맥락을 정확히 이해할 수 있는 새로운 트랜스포머 기반 모델과 그 앙상블을 제안합니다. PCL의 미묘하고 주관적인 특성을 이해하기 쉽도록 하기 위해, 다양한 언어 행동과 범주 분포에서 차별화된 특징을 포착하기 위한 두 가지 미세 조정 전략이 적용되었습니다. 해당 시스템은 공식 순위에서 1차 과제 1위와 2차 과제 5위를 달성하며 뛰어난 성과를 거두었습니다. 본 과제에 대한 광범위한 실험 결과는 우리 시스템과 전략의 효과성을 입증하였습니다.