초록
딥 애너미 디텍션 방법들은 정상 이미지와 이상 이미지를 구분할 수 있도록 표현을 학습한다. 비록 자기지도 학습(자기지도 표현 학습)이 일반적으로 사용되지만, 작은 데이터셋 크기는 그 효과를 제한한다. 이전 연구에서 외부의 일반적인 데이터셋(예: ImageNet 분류 데이터셋)을 활용하면 이상 탐지 성능이 크게 향상됨을 보여주었다. 한 가지 접근 방식으로는 아웃라이어 노출(outlier exposure)이 있으나, 외부 데이터셋이 이상 패턴과 유사하지 않을 경우 성능이 저하된다. 본 연구에서는 외부 데이터셋에서 미리 학습된 표현을 이상 탐지에 전이하는 접근 방식을 취한다. 정상 이미지에 대해 미리 학습된 표현을 미세 조정(fine-tuning)함으로써 이상 탐지 성능을 크게 향상시킬 수 있다. 본 논문에서는 우선, 가장 널리 사용되는 자기지도 학습 프레임워크인 대조적 학습(contrastive learning)이 미리 학습된 특징에 직접 적용될 수 없음을 실험적으로 입증하고 분석한다. 그 이유는 미리 학습된 특징의 초기화가 표준 대조적 목적함수에 대해 나쁜 조건화(conditioning)를 초래하여 최적화 역학이 불량해지기 때문이다. 본 연구의 분석을 바탕으로, 수정된 대조적 목적함수인 '평균 이동 대조 손실(Mean-Shifted Contrastive Loss)'을 제안한다. 제안한 방법은 매우 효과적이며, CIFAR-10 데이터셋에서 ROC-AUC 기준으로 98.6%의 새로운 최고 성능을 달성하였다.