2달 전
SURE: SUrvey REcipes for building reliable and robust deep networks SURE: 신뢰성 있고 견고한 딥 네트워크 구축을 위한 조사 요리책
Li, Yuting ; Chen, Yingyi ; Yu, Xuanlong ; Chen, Dexiong ; Shen, Xi

초록
본 논문에서는 딥 뉴럴 네트워크 내의 불확실성 추정 기술을 재검토하고, 이를 통해 그들의 신뢰성을 향상시키는 일련의 기술들을 정리합니다. 우리의 연구 결과는 모델 정규화, 분류기 및 최적화 등 다양한 기술들의 통합적인 적용이 이미지 분류 작업에서 불확실성 예측의 정확도를 크게 개선함을 보여줍니다. 이러한 기술들의 시너지 효과는 우리의 새로운 SURE 접근법으로 집약됩니다. 우리는 실패 예측 벤치마크라는 중요한 불확실성 추정 효능 테스트베드에서 SURE를 철저히 평가하였습니다. 결과는 다양한 데이터셋과 모델 구조에서 각각의 기술을 단독으로 사용하는 모델들보다 일관되게 우수한 성능을 나타냈습니다. 실제 문제인 데이터 오염, 라벨 노이즈, 그리고 장꼬리 분포 클래스에 적용할 때 SURE는 현존하는 최고 수준의 전문적인 방법들과 비교해 우월하거나 비등한 성능을 보이며 뛰어난 견고성을 입증하였습니다. 특히 노이즈가 있는 라벨로 학습하는 Animal-10N과 Food-101N 데이터셋에서 SURE는 특별한 작업별 조정 없이도 최고 수준의 성능을 달성하였습니다. 이 연구는 견고한 불확실성 추정에 대한 새로운 벤치마크를 설정할 뿐만 아니라, 신뢰성이 가장 중요한 다양한 실제 시나리오에서의 응용 가능성을 열어주었습니다. 본 논문의 코드는 \url{https://yutingli0606.github.io/SURE/}에서 확인할 수 있습니다.