11일 전

LiDAM: 국소적 도메인 적응과 반복적 매칭을 통한 반감독 학습

Qun Liu, Matthew Shreve, Raja Bala
LiDAM: 국소적 도메인 적응과 반복적 매칭을 통한 반감독 학습
초록

데이터는 풍부하지만 데이터 레이블링은 비용이 크다. 반감독 학습 방법은 소수의 레이블링된 샘플과 방대한 양의 레이블 없이 데이터를 결합하여 모델을 효과적으로 학습시킨다. 본 논문에서는 도메인 적응과 자기주도적 학습(self-paced learning)의 이론적 기반을 바탕으로 제안한 반감독 학습 방법인 LiDAM을 소개한다. LiDAM은 먼저 국소적 도메인 변이(localized domain shifts)를 수행하여 모델이 더 나은 도메인 불변 특징(domain-invariant features)을 추출하도록 하여 보다 정확한 클러스터링과 가상 레이블(pseudo-labels)을 생성한다. 이러한 가상 레이블은 고신뢰도 예측에 대한 다수 일관성(majority consistency)을 기반으로 하는 새로운 반복적 매칭 기법을 통해 자기주도적 방식(self-paced fashion)으로 실제 클래스 레이블과 정렬된다. 동시에, 수렴할 때까지 진정한 레이블을 예측할 수 있는 최종 분류기(final classifier)를 학습시킨다. LiDAM은 CIFAR-100 데이터셋에서 최신 기준(SOTA) 성능을 달성하며, 2500개의 레이블을 사용할 경우 FixMatch(73.50% 대 71.82%)를 상회하는 성능을 보였다.

LiDAM: 국소적 도메인 적응과 반복적 매칭을 통한 반감독 학습 | 최신 연구 논문 | HyperAI초신경