EAGAN: GAN을 위한 효율적인 이중 단계 진화형 아키텍처 탐색

생성적 적대 신경망(GAN)은 이미지 생성 작업에서 성공적인 성과를 거두었다. 그러나 GAN 학습은 본질적으로 불안정하다. 많은 연구들이 수동적으로 GAN 아키텍처를 수정함으로써 이를 안정화하려는 시도를 해왔지만, 이는 전문 지식이 요구된다. 신경망 아키텍처 탐색(NAS)은 GAN을 자동으로 탐색하는 매력적인 해결책으로 부상하고 있다. 초기의 NAS-GAN은 탐색 복잡도를 줄이기 위해 생성자(generator)만을 탐색했으나, 이는 하위 최적의 GAN을 초래했다. 최근 몇몇 연구들은 생성자(G)와 판별자(D)를 동시에 탐색하려는 시도를 했지만, GAN 학습의 불안정성으로 인해 여전히 어려움을 겪고 있다. 이러한 불안정성을 완화하기 위해, 본 논문에서는 효율적인 두 단계 진화 알고리즘 기반의 NAS 프레임워크인 EAGAN을 제안한다. EAGAN은 G와 D의 탐색을 두 단계로 분리한다. 1단계에서는 고정된 D를 기반으로 G를 탐색하며, 다수 대 일(many-to-one) 학습 전략을 채택한다. 2단계에서는 1단계에서 찾은 최적의 G를 기반으로 D를 탐색하며, 일대일(one-to-one) 학습 및 가중치 재설정(weight-resetting) 전략을 도입하여 GAN 학습의 안정성을 강화한다. 두 단계 모두 다목적 최적화(예: 모델 크기, Inception Score(IS), Fréchet Inception Distance(FID))를 고려하여 비지배 정렬(non-dominated sorting) 방법을 활용하여 파레토 최적 해 집합(Pareto-front architectures)을 생성한다. EAGAN은 무조건적 이미지 생성 작업에 적용되었으며, CIFAR-10 데이터셋에서 1.2 GPU 일 내에 효율적으로 탐색을 완료할 수 있다. 탐색된 GAN은 CIFAR-10 데이터셋에서 경쟁력 있는 성능을 달성하였으며(IS=8.81±0.10, FID=9.91), STL-10 데이터셋에서는 기존의 NAS-GAN보다 우수한 성능을 기록하였다(IS=10.44±0.087, FID=22.18). 소스 코드: https://github.com/marsggbo/EAGAN