2달 전

최소 클래스 혼동을 이용한 다목적 도메인 적응

Ying Jin; Ximei Wang; Mingsheng Long; Jianmin Wang
최소 클래스 혼동을 이용한 다목적 도메인 적응
초록

라벨 집합과 도메인 구성에 따라 다양한 도메인 적응(DA) 시나리오가 존재하며, 이에는 클로즈드 세트와 부분 세트 DA, 그리고 다중 소스와 다중 대상 DA가 포함됩니다. 기존의 DA 방법론들은 일반적으로 특정 시나리오를 위해 설계되어 있으며, 그들이 맞춤 설계되지 않은 시나리오에서는 성능이 떨어질 수 있다는 점을 주목할 필요가 있습니다. 이를 해결하기 위해 본 논문은 유연한 도메인 적응(VDA)을 연구합니다. VDA는 한 가지 방법론으로 여러 다른 DA 시나리오를 수정 없이 처리할 수 있는 접근 방식입니다. 이러한 목표를 달성하기 위해서는 도메인 정렬 외에도 보다 일반적인 귀납 편향을 탐색해야 합니다. 우리는 기존 방법론에서 빠져있던 중요한 요소를 살펴봅니다: 클래스 혼동, 즉 분류기가 대상 예제에 대해 올바른 클래스와 모호한 클래스 사이의 예측을 혼동하는 경향입니다. 이는 다양한 DA 시나리오에서 흔히 발생합니다. 우리는 이러한 쌍별 클래스 혼동을 줄임으로써 상당한 전송 이득이 얻어진다는 것을 밝혀냈습니다. 이 통찰력을 바탕으로, 우리는 일반적인 손실 함수인 최소 클래스 혼동(Minimum Class Confusion, MCC)을 제안합니다. MCC는 (1) 명시적으로 도메인 정렬을 사용하지 않는 비대립적 DA 방법론으로서 더 빠른 수렴 속도를 제공하며, (2) 클로즈드 세트, 부분 세트, 다중 소스, 다중 대상 DA 등 네 가지 기존 시나리오를 처리할 수 있는 유연한 접근 방식으로서 이러한 시나리오에서 최신 방법론들을 능가합니다. 특히 최근까지 가장 크고 어려운 데이터셋 중 하나인 DomainNet에서 7.3%의 성능 향상을 보였습니다. 또한 본 논문에서 제안된 두 가지 새로운 시나리오인 다중 소스 부분 DA와 다중 대상 부분 DA에서도 그 유연성이 입증되었습니다. 또한 MCC는 다양한 기존 DA 방법론들과 직교적이며 보완적인 일반적인 규제자로도 사용될 수 있어, 수렴 속도를 가속화하고 이미 경쟁력 있는 방법론들을 더욱 강력하게 만들 수 있습니다. 코드는 https://github.com/thuml/Versatile-Domain-Adaptation 에서 확인할 수 있습니다.

최소 클래스 혼동을 이용한 다목적 도메인 적응 | 최신 연구 논문 | HyperAI초신경