신뢰도 제어를 이용한 이상치 노출을 통한 분포 외 검출

최근 몇 년 동안 딥 뉴럴 네트워크는 분류 작업에서 큰 성공을 거두었습니다. 그러나 인공 지능에 대한 여정에서 주요 문제 중 하나는 신경망이 새로운 클래스 분포로부터 샘플을 정확히 감지할 수 없는 것입니다. 따라서 대부분의 기존 분류 알고리즘은 모든 클래스가 훈련 단계 이전에 알려져 있다고 가정합니다. 본 연구에서는 신경망이 알려진 클래스의 테스트 예제에 대한 분류 정확도를 크게 저하시키지 않으면서 효과적으로 분포 외(out-of-distribution, OOD) 예제를 감지할 수 있는 훈련 방법론을 제안합니다. 우리는 새로운 손실 함수를 제안하여, 이를 통해 이미지와 텍스트 분류 작업에서 OOD 샘플에 접근하지 않고도 우수한 OOD 감지 결과를 얻을 수 있는 새로운 방법인 신뢰성 제어 이상치 노출(Outlier Exposure with Confidence Control, OECC)을 도입하였습니다. 또한 실험적으로 OECC를 최신 사후 훈련 OOD 감지 방법들, 예를 들어 마할라노비스 검출기(Mahalanobis Detector, MD)와 그라미안 행렬(Gramian Matrices, GM) 방법들과 결합하면 OOD 감지 작업의 성능이 더욱 개선됨을 보였습니다. 이는 훈련 시기와 사후 훈련 시기의 방법들을 결합하여 OOD 감지를 수행하는 잠재력을 입증합니다.