3달 전

DEGAS: 차별 가능한 효율적인 생성기 탐색

Sivan Doveh, Raja Giryes
DEGAS: 차별 가능한 효율적인 생성기 탐색
초록

네트워크 아키텍처 탐색(NAS)은 분류 및 세그멘테이션과 같은 다양한 작업에서 최첨단 성능을 달성하고 있다. 최근에는 생성적 적대 신경망(GAN) 탐색을 위한 강화학습 기반 접근법이 제안된 바 있다. 본 연구에서는 GAN 탐색을 위한 대안적인 전략으로, 생성자(generator)를 효율적으로 탐색하는 데 초점을 맞춘 DEGAS(Differentiable Efficient GenerAtor Search)라는 기법을 제안한다. 본 연구의 탐색 알고리즘은 미분 가능 아키텍처 탐색 전략과 전역 잠재 최적화(Global Latent Optimization, GLO) 절차에서 영감을 얻었으며, 이는 효율적이고 안정적인 GAN 탐색을 가능하게 한다. 생성자 아키텍처가 탐색된 후에는 기존의 어떤 GAN 학습 프레임워크에도 쉽게 통합할 수 있다. 본 연구에서 사용한 CTGAN 기반 모델은 CIFAR-10에서 원래의 Inception 점수 대비 0.25 포인트, STL에서는 0.77 포인트 향상된 성능을 기록하였으며, 강화학습 기반 GAN 탐색 방법들보다 더 짧은 탐색 시간 내에 더 우수한 결과를 도출하였다.