도메인 일반화를 위한 도메인 특화 정규화 최적화 학습

우리는 개별 도메인에 특화된 최적화된 정규화 레이어를 통합함으로써 심층 신경망을 기반으로 하는 간단하면서도 효과적인 다중 소스 도메인 일반화 기술을 제안합니다. 본 접근 방식은 각 도메인별로 별도의 아핀 파라미터를 학습하는 동안 여러 가지 정규화 방법을 사용합니다. 각 도메인에서 활성화는 여러 정규화 통계량의 가중 평균으로 정규화됩니다. 필요할 경우, 각 정규화 유형별로 정규화 통계량을 별도로 추적합니다. 구체적으로, 우리의 구현에서는 배치 정규화와 인스턴스 정규화를 사용하여 각 도메인에서 이 두 가지 정규화 방법의 최적 조합을 식별합니다. 최적화된 정규화 레이어는 학습된 모델의 일반성을 향상시키는 데 효과적입니다. 우리는 표준 도메인 일반화 벤치마크에서 우리 알고리즘의 최신 수준의 정확도를 입증하였으며, 라벨 노이즈가 있는 환경에서의 다중 소스 도메인 적응 및 도메인 일반화 등의 추가 작업에서도 타당성을 보여주었습니다.