2달 전
두 가지 대조 학습: 라벨 인지 데이터 증강을 통한 텍스트 분류
Qianben Chen; Richong Zhang; Yaowei Zheng; Yongyi Mao

초록
대조 학습은 비지도 설정에서 자기 지도를 통해 표현 학습에서 뛰어난 성공을 거두었습니다. 그러나 실제에서는 대조 학습을 지도 학습 작업에 효과적으로 적용하는 것이 여전히 도전과제입니다. 본 연구에서는 입력 샘플의 특징과 분류기의 매개변수를 동일한 공간에서 동시에 학습하는 이중 대조 학습(DualCL) 프레임워크를 소개합니다. 구체적으로, DualCL은 분류기의 매개변수를 서로 다른 라벨과 연결된 증강 샘플로 간주하고, 입력 샘플과 증강 샘플 사이의 대조 학습을 활용합니다. 다섯 개의 벤치마크 텍스트 분류 데이터셋 및 그 저자원 버전에 대한 경험적 연구는 분류 정확도의 향상과 DualCL이 차별적인 표현을 학습할 수 있는 능력을 확인해주고 있습니다.