11일 전

공통적인 손상에 대한 강건성 향상을 위한 공변량 이동 적응

Steffen Schneider, Evgenia Rusak, Luisa Eck, Oliver Bringmann, Wieland Brendel, Matthias Bethge
공통적인 손상에 대한 강건성 향상을 위한 공변량 이동 적응
초록

오늘날의 최첨단 머신 비전 모델은 흐림이나 압축 아티팩트와 같은 이미지 손상에 취약하여, 많은 실세계 응용 분야에서 성능이 제한된다. 본 연구에서는 기존의 일반적인 손상에 대한 모델 강건성(robustness)을 평가하기 위해 널리 사용되는 벤치마크(예: ImageNet-C)가 많은(그러나 모든 것은 아님) 응용 시나리오에서 모델의 강건성을 과소평가하고 있다고 주장한다. 핵심 통찰은 많은 시나리오에서 손상된 이미지의 레이블이 없는 여러 예시를 사전에 확보할 수 있으며, 이를 통해 비지도(unsupervised) 온라인 적응(online adaptation)을 수행할 수 있다는 점이다. 학습 데이터에서 배치 정규화(batch normalization)가 추정하는 활성화 통계를 손상된 이미지의 통계로 대체하면, 25개의 다양한 대표적인 컴퓨터 비전 모델에서 일관되게 강건성이 향상된다. 보정된 통계를 활용할 경우, ResNet-50은 ImageNet-C에서 적응 없이 76.7%의 mCE(misclassification error)를 기록한 반면, 적응 후에는 62.2%로 개선된다. 더 강건한 DeepAugment+AugMix 모델을 사용하면, 기존 ResNet-50 모델이 달성한 최고 성능인 53.6% mCE를 45.4% mCE로 개선할 수 있다. 단일 샘플에 대한 적응만으로도 ResNet-50 및 AugMix 모델의 강건성이 향상되며, 32개의 샘플만으로도 ResNet-50 아키텍처의 현재 최고 성능을 초과하는 결과를 얻을 수 있다. 본 연구는 손상 벤치마크 및 기타 분포 외 일반화(out-of-distribution generalization) 설정에서 성능 점수를 보고할 경우, 적응된 통계를 기반으로 한 결과를 포함해야 한다고 주장한다.

공통적인 손상에 대한 강건성 향상을 위한 공변량 이동 적응 | 최신 연구 논문 | HyperAI초신경