2달 전

깊은 이상 탐지와 외부자 노출

Dan Hendrycks; Mantas Mazeika; Thomas Dietterich
깊은 이상 탐지와 외부자 노출
초록

머신 러닝 시스템을 배포할 때 이상 입력(anomalous inputs)을 감지하는 것이 중요합니다. 딥러닝에서 더 크고 복잡한 입력의 사용은 이상과 분포 내(in-distribution) 예제를 구분하는 어려움을 증가시킵니다. 동시에, 다양한 이미지와 텍스트 데이터가 엄청난 양으로 존재합니다. 우리는 이러한 데이터를 활용하여 이상 탐지기(anomaly detectors)를 외부 데이터셋(outliers)에 대해 학습시키는 방법으로 딥 이상 탐지를 개선하는 것을 제안하며, 이 접근법을 외부 노출(Outlier Exposure, OE)이라고 부릅니다. 이는 이상 탐지기가 일반화되어 보지 못한 이상을 감지할 수 있도록 합니다. 자연어 처리 및 소규모와 대규모 비전 작업에 대한 광범위한 실험에서, 우리는 외부 노출이 감지 성능을 크게 개선한다는 것을 발견했습니다. 또한, CIFAR-10에서 훈련된 최첨단 생성 모델(generative models)이 SVHN 이미지보다 CIFAR-10 이미지에 더 높은尤然性(likelihoods)을 할당할 수 있다는 점도 관찰되었습니다; 우리는 OE를 사용하여 이 문제를 완화하였습니다. 또한, 외부 노출의 유연성과 견고성을 분석하고, 성능을 개선하는 보조 데이터셋(auxiliary dataset)의 특성을 식별하였습니다.注:在最后一句中,“尤然性”不是正确的韩文翻译,应该是“우연성”或“가능도”。这里提供一个修正后的版本:또한, CIFAR-10에서 훈련된 최첨단 생성 모델(generative models)이 SVHN 이미지보다 CIFAR-10 이미지에 더 높은 가능도(likelihoods)를 할당할 수 있다는 점도 관찰되었습니다; 우리는 OE를 사용하여 이 문제를 완화하였습니다.

깊은 이상 탐지와 외부자 노출 | 최신 연구 논문 | HyperAI초신경