트레이닝-테스트 해상도 불일치 문제 해결: FixEfficientNet

이 논문은 최근의 여러 학습 절차를 적용한 EfficientNet 이미지 분류기의 성능을 광범위하게 분석하며, 특히 학습용 이미지와 테스트 이미지 간의 불일치를 보정하는 방법에 초점을 맞춘다. 이를 통해 개선된 네트워크인 FixEfficientNet을 제안하며, 파라미터 수가 동일한 경우 원래 아키텍처보다 상당히 뛰어난 성능을 달성한다.예를 들어, 추가 학습 데이터 없이 훈련된 FixEfficientNet-B0는 530만 개의 파라미터로 ImageNet에서 79.3%의 top-1 정확도를 기록한다. 이는 3억 개의 레이블이 없는 이미지로 훈련된 Noisy Student EfficientNet-B0보다 절대적으로 0.5% 향상된 성능이다. 또한 3억 개의 레이블이 없는 이미지에서 약한 지도 신호로 사전 훈련된 EfficientNet-L2에 FixRes 기법을 추가로 적용한 결과, top-1 정확도 88.5% (top-5: 98.7%)를 달성하며, 단일 컷(single crop) 기반 ImageNet에서 새로운 최고 성능을 수립했다.이러한 성능 향상은 일반적으로 ImageNet에 사용되는 절차보다 더 청결한 평가 프로토콜을 통해 철저히 검증되었으며, 특히 ImageNet-v2의 실험 환경(과적합에 덜 민감한 환경)과 ImageNet Real Labels 상황에서도 성능 향상이 지속됨을 보였다. 두 경우 모두 새로운 최고 성능을 확립하였다.