초록
우리는 깊이 있는 하이브리드 모델(DHMs)을 활용하여 분포 외(out-of-distribution, OoD) 탐지에 대한 원칙적이고 실용적인 방법을 제안한다. 이 방법은 단일 전방 계산(forward pass)을 통해 특징과 레이블의 결합 확률 밀도 p(x,y)를 모델링한다. 결합 확률 밀도 p(x,y)를 세 가지 불확실성 원천으로 인수분해함으로써, 제안하는 방법이 학습 데이터와 의미적으로 다를 수 있는 샘플을 식별할 수 있음을 보여준다. 계산적 확장성을 보장하기 위해 학습 과정 중에 가중치 정규화(weight normalization) 단계를 추가함으로써, 최첨단(상위 수준, SoTA)의 깊이 있는 신경망(DNN) 아키텍처를 효율적으로 통합하여 표현력 있는 확률 분포를 근사하고 추론할 수 있도록 하였다. 본 방법은 예측 불확실성 추정을 위한 효율적이고 일반적이며 유연한 프레임워크를 제공하며, 희망적인 실험 결과와 이론적 근거를 함께 지닌다. 우리 지식에 따르면, 이는 시각 및 언어 데이터셋에서 모두 OoD 탐지 과제에서 100%의 성능을 달성한 최초의 연구로, 특히 CIFAR-10 대 SVHN 및 CIFAR-100 대 CIFAR-10과 같이 매우 도전적인 데이터셋 쌍에서도 성능을 입증하였다. 본 연구는 DNN이 안전이 중요한 실세계 응용 분야에 실제 적용될 수 있도록 하는 데 중요한 한 걸음이다.