17일 전

퍼즐 믹스: 최적의 믹스업을 위한 샐리언시와 로컬 통계의 활용

Jang-Hyun Kim, Wonho Choo, Hyun Oh Song
퍼즐 믹스: 최적의 믹스업을 위한 샐리언시와 로컬 통계의 활용
초록

딥 신경망은 훈련 분포에 잘 적합되는 뛰어난 성능을 달성하지만, 과적합에 취약하고 적대적 공격에 취약한 경향이 있다. 이러한 문제를 해결하기 위해 최근 여러 가지 미크서프(mixup) 기반 증강 방법이 제안되어 왔다. 그러나 이러한 접근 방식은 주로 기존에 보지 못한 가상의 예시를 생성하는 데 초점이 맞춰져 있으며, 때로는 네트워크에 오해의 소지가 있는 지도 신호를 제공할 수 있다. 이를 해결하기 위해 우리는 자연 예제의 주목성 정보와 내재된 통계를 명시적으로 활용할 수 있는 Puzzle Mix를 제안한다. 이는 최적의 혼합 마스크를 위한 다중 레이블 목적 함수와 주목성 할인 최적 운반 목적 함수 사이를 반복적으로 최적화하는 흥미로운 최적화 문제로 이어진다. 실험 결과, CIFAR-100, Tiny-ImageNet, ImageNet 데이터셋에서 다른 미크서프 방법과 비교하여 Puzzle Mix가 최신 기술 수준의 일반화 성능과 적대적 내성(adversarial robustness) 성능을 달성함을 확인하였다. 소스 코드는 https://github.com/snu-mllab/PuzzleMix 에서 제공된다.

퍼즐 믹스: 최적의 믹스업을 위한 샐리언시와 로컬 통계의 활용 | 최신 연구 논문 | HyperAI초신경