넓은 활성화를 통한 효율적이고 정확한 이미지 초해상화

이 보고서에서는 동일한 매개변수와 계산 비용을 사용할 때, ReLU 활성화 함수 전에 더 넓은 특성을 가진 모델이 단일 이미지 초해상도(Single Image Super-Resolution, SISR)에서 상당히 우수한 성능을 보임을 입증합니다. 이로 인해 생성된 SR 잔차 네트워크는 각 잔차 블록에서 활성화 전에 채널 수가 (2\times)에서 (4\times)로 확장된 좁은 항등 매핑 경로를 가지게 됩니다. 계산 부담 없이 활성화를 더 넓게 ((6\times)에서 (9\times)) 만들기 위해, 우리는 SR 네트워크에 선형 저순위 합성곱(linear low-rank convolution)을 도입하여 더욱 우수한 정확도-효율성 균형을 달성하였습니다. 또한 배치 정규화(batch normalization)나 정규화 없음과 비교하여, 가중치 정규화(weight normalization)를 사용한 훈련이 깊은 초해상도 네트워크에서 더 나은 정확도를 제공함을 발견하였습니다. 우리가 제안하는 SR 네트워크 \textit{WDSR}는 동일하거나 낮은 계산 복잡도 하에서 대규모 DIV2K 이미지 초해상도 벤치마크에서 PSNR 측면에서 더 나은 결과를 얻었습니다. WDSR 기반으로 우리의 방법은 NTIRE 2018 단일 이미지 초해상도 챌린지의 모든 세 가지 실제 트랙에서 1위를 차지하였습니다. 실험 및 점진적 제거 연구(ablation studies)는 이미지 초해상도에 있어 넓은 활성화의 중요성을 뒷받침합니다. 코드는 다음 주소에서 공개되었습니다: https://github.com/JiahuiYu/wdsr_ntire2018