자연스러운 적대적 객체

최신의 객체 탐지 방법들은 뛰어난 성능을 보여주고 있지만, 일반적으로 적대적 공격(Adversarial Attacks)과 분포 외 데이터(Out-of-Distribution Data)에 대해 취약한 경향이 있다. 이에 따라 우리는 객체 탐지 모델의 견고성(로버스트성)을 평가하기 위해 새로운 데이터셋인 Natural Adversarial Objects(NAO)를 제안한다. NAO는 7,934장의 이미지와 9,943개의 객체로 구성되어 있으며, 실제 환경에서 흔히 볼 수 있는 자연스럽고 수정되지 않은 샘플들로 구성되어 있지만, 최신의 객체 탐지 모델들이 높은 신뢰도로 잘못 분류하게 만든다. 효율적인 객체 탐지 모델인 EfficientDet-D7의 경우, 표준 MSCOCO 검증 세트 대비 NAO에서 평균 정밀도(mAP)가 74.5% 감소하는 것으로 나타났다.또한 다양한 객체 탐지 아키텍처를 비교한 결과, MSCOCO 검증 세트에서 높은 성능을 보이는 모델이라도 NAO에서 동일한 수준의 성능을 보이는 것은 아님을 확인하였다. 이는 더 정확한 모델을 학습하는 것만으로는 견고성이 보장되지 않음을 시사한다.이어 NAO 내 예제들이 왜 탐지 및 분류가 어려운지에 대해 조사하였다. 이미지 패치를 무작위로 재배열하는 실험을 통해, 모델이 국부적인 질감에 과도하게 민감함을 발견하였다. 또한 통합 기울기(Integrated Gradients)와 배경 교체 기법을 활용한 분석을 통해, 탐지 모델이 예측 시 바운딩 박스 내의 픽셀 정보에 크게 의존하며, 배경의 맥락 정보에는 거의 민감하지 않음을 확인하였다.NAO 데이터셋은 다음 링크에서 다운로드 가능하다: https://drive.google.com/drive/folders/15P8sOWoJku6SSEiHLEts86ORfytGezi8