PCL: 도메인 일반화를 위한 기반 프록시 기반 대조 학습

도메인 일반화(Domain generalization)는 여러 서로 다른 소스 도메인에서 학습한 모델이 미리 보지 못한 타겟 도메인에도 직접적으로 일반화할 수 있도록 하는 문제를 의미한다. 이 문제에 대한 유망한 해결 방안으로 대조 학습(contrastive learning)이 제안되고 있으며, 이는 서로 다른 도메인의 샘플 쌍 간에 풍부한 의미적 관계를 활용하여 도메인 불변 표현(domain-invariant representations)을 학습하려는 접근법이다. 간단한 방법은 서로 다른 도메인에서 온 긍정적 샘플 쌍을 가까이 끌어오고, 그 외의 부정적 샘플 쌍은 더 멀리 밀어내는 것이다. 본 논문에서는 대조 기반 방법(예: 감독 대조 학습)을 직접 적용하는 것이 도메인 일반화에 효과적이지 않음을 발견하였다. 우리는 서로 다른 도메인 간의 분포 차이가 크기 때문에, 긍정적 샘플 쌍 간의 정렬(alignment)이 모델의 일반화 능력을 저해한다고 주장한다. 이러한 문제를 해결하기 위해, 기존의 샘플-샘플 관계를 프록시-샘플 관계로 대체하는 새로운 프록시 기반 대조 학습 방법을 제안한다. 이는 긍정적 정렬 문제를 크게 완화한다. 네 가지 표준 벤치마크에서 수행한 실험을 통해 제안한 방법의 효과성을 입증하였다. 또한, ImageNet 사전 훈련 모델이 제공되지 않는 더 복잡한 시나리오에 대해서도 고려하였으며, 본 방법은 일관되게 우수한 성능을 보였다.