약한 감독 하에 학습된 시각 인지 모델의 사전 학습 재고찰

모델 사전 훈련은 현대 시각 인식 시스템의 핵심 요소이다. 이미지넷과 같은 데이터셋에서 완전히 감독된 사전 훈련이 여전히 사실상의 표준이지만, 최근 연구들은 대규모 약한 감독 사전 훈련이 완전 감독 방법을 능가할 수 있음을 시사하고 있다. 본 논문은 최신 버전의 잔차 네트워크(Residual Networks)와 역사상 가장 큰 이미지 및 해당 해시태그 데이터셋을 활용하여 해시태그 감독을 통한 약한 감독 사전 훈련을 재검토한다. 이를 통해 다양한 전이 학습 설정(영점 전이 포함)에서 얻어진 모델의 성능을 분석하고, 대규모 자기지도 학습을 통해 얻은 모델들과 비교한다. 그 결과, 약한 감독 모델이 모든 설정에서 매우 경쟁력 있는 성능을 보이며, 자기지도 학습 모델보다 상당히 뛰어난 성능을 기록함을 확인했다. 또한 본 연구는 모델이 잠재적으로 문제적인 연관성이나 고정관념을 학습했는지 여부에 대해서도 조사하였다. 종합적으로 본 연구 결과는 시각 인식 시스템 개발에 있어 약한 감독 학습의 활용에 대한 설득력 있는 근거를 제시한다. 본 연구에서 개발한 모델인 '해시태그를 통한 감독적 약한 학습(Supervised Weakly through hashtAGs, SWAG)'은 공개적으로 제공된다.