3달 전
CoDiM: 대조적 반감독 학습을 통한 노이즈 있는 레이블 학습
Xin Zhang, Zixuan Liu, Kaiwen Xiao, Tian Shen, Junzhou Huang, Wei Yang, Dimitris Samaras, Xiao Han

초록
라벨링은 비용이 많이 들고 때로는 신뢰할 수 없는 경우가 있다. 노이즈 있는 라벨 학습, 반감독 학습, 대조 학습은 annotation 비용을 줄이는 데 초점을 맞춘 세 가지 서로 다른 학습 프로세스 설계 전략이다. 최근 반감독 학습과 대조 학습이 노이즈 있는 라벨을 가진 데이터셋을 다루는 학습 전략의 성능을 향상시킨다는 것이 입증되었다. 그러나 이 세 분야 간의 내적 연관성과 각각의 강점을 통합할 잠재력은 여전히 초기 단계에 머물고 있다. 본 논문에서는 이러한 기법들을 더욱 깊이 탐구하고, 통합하는 새로운 방식과 그 장점을 제시한다. 구체적으로, 전통적인 반감독 학습과 대조 학습 기술의 장점을 결합한 통합형 대조 반감독 학습 알고리즘인 CSSL을 제안하며, 다양한 유형과 수준의 라벨 노이즈로부터 견고하게 학습할 수 있는 새로운 알고리즘인 CoDiM(Contrastive DivideMix)을 제안한다. CSSL은 기존 기법의 강점을 활용하며, CoDiM에 적절히 적용되어 노이즈 라벨 환경에서도 안정적인 성능을 발휘한다. 실험을 통해 CoDiM이 여러 벤치마크에서 일관된 성능 향상을 보이며 최신 기술 수준(SOTA)의 성과를 달성함을 입증하였다.