11일 전

RODD: 분포 외 탐지에 대한 강건한 자기지도 학습 방식

Umar Khalid, Ashkan Esmaeili, Nazmul Karim, Nazanin Rahnavard
RODD: 분포 외 탐지에 대한 강건한 자기지도 학습 방식
초록

최근 연구들은 딥러닝(DL) 모델의 안전한 배포를 위한 주요 과제로, 분포 외(out-of-distribution, OOD) 샘플의 탐지 및 거부 문제를 다루고 있다. 이상적으로는 DL 모델이 분포 내(in-distribution, ID) 데이터에 대해서만 신뢰할 수 있는 예측을 해야 하며, 이는 OOD 탐지의 핵심 원칙을 강화한다. 본 논문에서는 분포 외 데이터셋에 의존하지 않는 간단하면서도 효과적인 일반화된 OOD 탐지 방법을 제안한다. 제안하는 방법은 훈련 샘플의 자기지도형 특징 학습에 기반하며, 이 과정에서 임베딩은 밀집된 저차원 공간에 위치하게 된다. 최근 연구들에 따르면 자기지도형 적대적 대조 학습(self-supervised adversarial contrastive learning)이 모델의 강건성을 향상시킨다는 점에 착안하여, 본 연구에서는 자기지도형 대조 학습을 통해 사전 훈련된 모델이 잠재 공간에서 1차원 특징 학습에 더 우수한 성능을 보임을 실험적으로 입증한다. 본 논문에서 제안하는 방법은 RODD(Robust OOD Detection)로 명명되며, 다양한 벤치마크 데이터셋에서 OOD 탐지 작업에 대해 최신 기준(SOTA) 성능을 초과한다. CIFAR-100 벤치마크에서 RODD는 SOTA 방법 대비 26.97% 낮은 FPR@95(95% 정밀도에서의 거짓 긍정률)을 달성하였다.

RODD: 분포 외 탐지에 대한 강건한 자기지도 학습 방식 | 최신 연구 논문 | HyperAI초신경