분포 외 탐지: 현대 호프필드 에너지 기반 내분포 데이터 패턴의 기억화

분포 외(Distribution-OutOf-Distribution, OOD) 탐지는 딥 신경망의 안전 중심 응용 분야에서 필수적이다. OOD 탐지는 딥 신경망(DNN) 모델이 분포 외 샘플에 대해서도 매우 높은 로짓(logit) 값을 출력할 수 있기 때문에 도전 과제가 된다. 따라서 출력 로짓에 직접 Softmax를 적용하여 신뢰도 점수를 산출하는 방식으로는 OOD 데이터를 효과적으로 구분하는 것이 매우 어렵다. 본 연구에서는 이러한 문제를 해결하기 위해 '저장-비교(Store-then-compare)' 패러다임을 기반으로 하프필드 에너지(Hopfield energy)를 활용하여 OOD 샘플을 탐지한다. 구체적으로, 학습 데이터셋의 전단계 층(펜알티메이트 레이어) 출력물을 내분포(In-Distribution, ID) 데이터의 표현으로 간주한다. 이를 통해 저장 패턴으로 변환하여, 미지의 데이터와의 불일치를 측정할 수 있는 기준점(앵커)으로 활용한다. 현대 하프필드 네트워크(Modern Hopfield Network)에서 정의된 에너지 함수를 기반으로, 이론적 분석을 통해 단순화된 버전인 SHE(Simplified Hopfield Energy)를 도출하였다. SHE는 각 클래스에 대해 단 하나의 저장 패턴만을 사용하며, 해당 클래스 내 학습 샘플의 전단계 레이어 출력값을 단순 평균함으로써 이를 쉽게 구할 수 있다. SHE는 하이퍼파라미터가 필요 없고, 높은 계산 효율성을 갖는다는 장점이 있다. 다양한 분포 외 데이터셋 9개에 대한 평가 결과, 이 간단하면서도 효과적인 접근법이 기존 최고 수준의 모델들보다 뛰어난 성능을 보였으며, 매우 유망한 결과를 제시하였다. 코드는 다음 URL에서 제공된다: https://github.com/zjs975584714/SHE-ood-detection