16일 전

생성적 적대 네트워크를 위한 일관성 정규화

Han Zhang, Zizhao Zhang, Augustus Odena, Honglak Lee
생성적 적대 네트워크를 위한 일관성 정규화
초록

생성적 적대 신경망(GAN)은 상당한 연구 노력에도 불구하고 훈련이 어렵다는 점으로 잘 알려져 있다. 훈련을 안정화하기 위한 여러 정규화 기법이 제안되었지만, 이들 대부분은 비현실적인 계산 부담을 수반하며, 스펙트럴 정규화와 같은 기존 기법과도 잘 상호작용하지 못한다. 본 연구에서는 반응성 정규화(consistency regularization)라는 개념에 기반한 간단하면서도 효과적인 훈련 안정화 기법을 제안한다. 이는 반응성 학습 분야에서 널리 사용되는 기법이다. 구체적으로, GAN의 디스커리미네이터에 입력되는 데이터를 증강하고, 디스커리미네이터가 이러한 증강에 대해 민감하게 반응하지 않도록 제약을 가한다. 다양한 실험을 통해 반응성 정규화가 스펙트럴 정규화와 다양한 GAN 아키텍처, 손실 함수, 최적화 설정과 효과적으로 작동함을 입증하였다. CIFAR-10 및 CelebA 데이터셋에서 다른 정규화 기법들과 비교해 무조건적 이미지 생성에 있어 최고의 FID 점수를 달성하였다. 또한, 본 연구에서 제안하는 반응성 정규화를 적용한 GAN(CR-GAN)은 CIFAR-10에서 조건부 생성의 최신 기준 FID 점수를 14.73에서 11.48로, ImageNet-2012에서는 8.73에서 6.66으로 개선하였다.

생성적 적대 네트워크를 위한 일관성 정규화 | 최신 연구 논문 | HyperAI초신경