8일 전

도메인 적응을 위한 적응형 부스팅: 장면 세그멘테이션에서 강건한 예측을 향해

Zhedong Zheng, Yi Yang
도메인 적응을 위한 적응형 부스팅: 장면 세그멘테이션에서 강건한 예측을 향해
초록

도메인 적응은 소스 도메인에서 학습된 공유 지식을 새로운 환경인 타겟 도메인으로 전이하는 과정이다. 일반적인 접근 방식은 레이블이 붙은 소스 도메인 데이터와 레이블이 없는 타겟 도메인 데이터를 모두 사용하여 모델을 학습하는 것이다. 그러나 이러한 방식으로 학습된 모델은 소스 도메인의 강한 지도에 의해 편향되기 쉬운데, 이는 타겟 도메인의 검증 데이터셋이 부족한 상황에서 모델의 과적합을 방지하기 위한 조기 정지(early-stopping) 전략을 사용하는 것이 일반적이다. 그러나 타겟 도메인 검증 세트가 없기 때문에 언제 정지할지 결정하는 것은 여전히 도전적인 문제이다. 본 논문에서는 학습 과정 중에 보완적인 모델을 명시적으로 학습함으로써 사용자가 경험적 조기 정지 전략에 의존하지 않도록 하는 효율적인 부트스트래핑 방법, 즉 AdaBoost Student를 제안한다. AdaBoost Student는 딥 모델 학습과 전통적인 학습 전략인 적응형 부스팅(adaptive boosting)을 결합하여, 학습된 모델과 데이터 샘플러 간의 상호작용을 가능하게 한다. 본 연구에서는 어려운 샘플에 대한 학습을 점진적으로 촉진하기 위한 적응형 데이터 샘플러를 도입하고, '약한' 모델들을 집계함으로써 과적합을 방지한다. 광범위한 실험 결과는 다음과 같은 점을 보여준다. (1) 정지 시점을 걱정할 필요 없이, AdaBoost Student는 학습 과정 중에 효율적인 보완 모델 학습을 통해 강건한 해결책을 제공한다. (2) AdaBoost Student는 대부분의 도메인 적응 방법과 수직적(orthogonal) 관계를 가지며, 기존의 접근법과 결합하여 기존의 최고 성능을 further 개선할 수 있다. 본 연구는 세 가지 널리 사용되는 장면 세분화 도메인 적응 벤치마크에서 경쟁력 있는 성능을 달성하였다.