MMD 신경망 아키텍처 검색, PMish 활성화 함수 및 적응형 랭크 분해를 통한 GAN의 성능 향상

생성적 적대망(GANs)은 원하는 데이터 분포에서 고해상도이고 현실적인 이미지를 생성할 수 있는 뛰어난 능력으로 인해 주목을 받고 있다. 본 연구는 개선된 활성화 함수, 새로운 학습 전략, 그리고 네트워크 압축을 위한 적응형 순위 분해 방법을 도입함으로써 GAN의 성능을 향상시킨다. 제안된 활성화 함수인 '파라메트릭 미시(PMish)'는 학습 가능한 파라미터를 자동 조정하여 활성화 함수의 부드러움과 형태를 제어한다. 본 연구 방법은 신경망 아키텍처 탐색(NAS)을 활용하여 이미지 생성에 최적화된 아키텍처를 탐색하며, 적대적 학습에는 최대 평균 불일치(MMD) 반발력 손실을 사용한다. 제안된 새로운 학습 전략은 경계가 있는 MMD-GAN 반발력 손실의 상한을 점진적으로 증가시킴으로써 성능을 향상시킨다. 마지막으로, 제안된 적응형 순위 분해(ARD) 방법은 생성 성능에 미미한 영향을 주면서도 네트워크의 복잡도를 감소시켜 자원 제약이 있는 플랫폼에서도 효율적인 배포를 가능하게 한다. 이러한 기술적 진보의 효과는 CIFAR-10, CIFAR-100, STL-10, CelebA와 같은 표준 벤치마크 데이터셋에서 철저히 검증되었으며, 기존 기법 대비 뚜렷한 성능 향상이 입증되었다. 구현 코드는 다음 주소에서 확인할 수 있다: https://github.com/PrasannaPulakurthi/MMD-PMish-NAS