반감독 학습을 위한 보간 일관성 훈련

우리는 반監督 학습 패러다임에서 딥 뉴럴 네트워크를 훈련시키기 위한 간단하고 계산 효율적인 알고리즘인 보간 일관성 훈련(Interpolation Consistency Training, ICT)을 소개합니다. ICT는 라벨이 없는 점들의 보간에서의 예측이 해당 점들에서의 예측 보간과 일관되도록 유도합니다. 분류 문제에서는 ICT가 데이터 분포의 저밀도 영역으로 결정 경계를 이동시킵니다. 우리의 실험 결과에 따르면, 표준 신경망 구조에 ICT를 적용할 때 CIFAR-10 및 SVHN 벤치마크 데이터셋에서 최고 수준의 성능을 달성함을 확인할 수 있습니다. 이론적 분석 결과, ICT는 높은 신뢰도 값 하에서 라벨된 점들에 대한 과적합을 줄이는 일종의 데이터 적응형 정규화(Regularization)와 관련됨을 보여줍니다.