
교사-학생 프레임워크는 반감독(semi-supervised) 세그멘테이션에서 널리 사용되며, 주로 학생 모델의 가중치를 기반으로 교사 모델의 가중치를 지수 이동 평균(EMA, Exponential Moving Average)을 통해 업데이트한다. 그러나 EMA 업데이트 방식은 교사와 학생의 가중치가 서로 결합(coupling)되는 문제를 야기하며, 이는 성능의 잠재적 한계를 초래할 수 있다. 특히, 세그멘테이션 마스크와 같은 복잡한 레이블을 사용하되, 레이블이 매우 제한적인 데이터로 학습할 경우 이 문제는 더욱 심화될 수 있다. 본 논문에서는 이 결합 문제를 완화하기 위해 이중 임시 교사(dual temporary teachers)를 도입하는 새로운 접근법인 Dual Teacher를 제안한다. 이 임시 교사는 순차적으로 교체되며 점진적으로 개선되므로, 교사와 학생 모델 간의 과도한 유사성 발생을 지속적으로 방지한다. 구체적으로, 임시 교사는 주기적으로 교대하며 학생 모델을 훈련하기 위해 의사 레이블(pseudo-labels)을 생성하고, 각 에포크마다 학생 모델의 고유한 특성을 유지한다. 결과적으로 Dual Teacher는 PASCAL VOC, Cityscapes, ADE20K 등 주요 벤치마크에서 최신 기술 대비 뛰어난 성능을 달성하면서도 훨씬 짧은 훈련 시간을 요구한다. 또한 본 방법이 모델에 독립적(모델-agnostic)이며 CNN 기반 및 Transformer 기반 모델 모두와 호환됨을 실험을 통해 입증하였다. 코드는 다음 주소에서 공개되어 있다: https://github.com/naver-ai/dual-teacher.