엔트로피 정규화를 통한 도메인 일반화

도메인 일반화(Domain generalization)는 여러 소스 도메인에서 학습하여 미지의 타겟 도메인에도 일반화 가능한 예측 모델을 학습하는 것을 목표로 한다. 도메인 일반화의 핵심 과제 중 하나는 구분 가능한 도메인 불변 특징을 학습하는 것이다. 이를 달성하기 위해 일부 방법들은 적대적 학습을 통해 도메인 구분자(domain discriminator)를 도입하여 여러 소스 도메인의 특징 분포를 일치시키려 한다. 그러나 적대적 학습은 학습된 특징이 마진(Marginal) 분포에 대해 불변임을 보장할 뿐이며, 새로운 도메인에서 예측에 더 중요한 조건부(Conditional) 분포의 불변성은 보장되지 않는다. 조건부 불변성을 보장하기 위해, 우리는 학습된 특징과 클래스 레이블 간의 종속성( dependency )을 측정하는 엔트로피 정규화 항(entropy regularization term)을 제안한다. 일반적인 과제 관련 손실(예: 분류 작업의 경우 교차 엔트로피 손실)과 도메인 구분을 위한 적대적 손실과 결합함으로써, 제안하는 전반적인 목적 함수는 모든 소스 도메인에 걸쳐 조건부 불변 특징을 학습하도록 보장되며, 그 결과 더 우수한 일반화 성능을 갖는 분류기 학습이 가능하다.제안한 방법의 효과는 시뮬레이션 및 실제 데이터셋에서 최신 기술과의 비교를 통해 입증하였다. 코드는 다음 주소에서 제공된다: https://github.com/sshan-zhao/DGviaER.