8일 전

도메인 적응형 세분화를 위한 원형 투명 레이블 노이즈 제거 및 타겟 구조 학습

Pan Zhang, Bo Zhang, Ting Zhang, Dong Chen, Yong Wang, Fang Wen
도메인 적응형 세분화를 위한 원형 투명 레이블 노이즈 제거 및 타겟 구조 학습
초록

자기 학습(self-training)은 도메인 적응 분할에서 경쟁적인 접근 방식으로, 타겟 도메인의 가상 레이블(pseudo labels)을 이용하여 네트워크를 학습하는 방식이다. 그러나 불가피하게 가상 레이블은 노이즈를 포함하며, 소스 도메인과 타겟 도메인 간의 차이로 인해 타겟 특징이 분산되는 문제가 발생한다. 본 논문에서는 클래스의 특징 중심점(prototype)인 대표적 프로토타입을 활용하여 이 두 가지 문제를 해결한다. 특히, 단순히 프로토타입만을 사용하는 것을 넘어, 프로토타입과의 특징 거리 정보를 활용함으로써 더 풍부한 정보를 얻는다. 구체적으로, 이 거리 정보를 활용해 가상 레이블의 신뢰도를 추정하고, 학습 과정 중 실시간으로 레이블을 보정하는 데 기여한다. 동시에, 동일한 타겟 샘플에 대한 두 가지 서로 다른 시각(view)에 대해 상대적 특징 거리 기반의 프로토타입 할당을 정렬함으로써, 타겟 특징 공간을 더욱 밀집된 형태로 만든다. 더불어, 이미 학습된 지식을 자기지도 학습(pretrained) 모델에 전달하는 지식 증류(knowledge distillation) 기법을 도입함으로써 성능을 추가로 향상시킬 수 있음을 발견하였다. 제안하는 방법은 기존 최고 수준의 방법들에 비해 뛰어난 성능을 보였다. 코드는 공개할 예정이다.