한 달 전

깊은 전이 학습과 공동 적응 네트워크

Mingsheng Long; Han Zhu; Jianmin Wang; Michael I. Jordan
깊은 전이 학습과 공동 적응 네트워크
초록

깊은 네트워크는 소스 도메인에서 다른 타겟 도메인으로 모델을 적응시키기 위해 전이 가능한 특징을 학습하는 데 성공적으로 적용되었습니다. 본 논문에서는 다중 도메인 특화 계층의 결합 분포를 결합 최대 평균 분산(JMMD, Joint Maximum Mean Discrepancy) 기준에 따라 도메인 간에 맞추어 전이 네트워크를 학습하는 공동 적응 네트워크(JAN, Joint Adaptation Networks)를 제시합니다. 적대적 훈련 전략은 JMMD를 최대화하여 소스 도메인과 타겟 도메인의 분포가 더 구별될 수 있도록 합니다. 학습은 역전파로 계산된 그래디언트를 사용하여 선형 시간 내에 확률적 경사 하강법으로 수행될 수 있습니다. 실험 결과, 우리의 모델이 표준 데이터셋에서 최고 수준의 성능을 보임을 입증하였습니다.