초록
생성적 적대망(GANs)은 고차원 데이터를 모델링하는 데 큰 잠재력을 보여주고 있다. GAN의 학습 목표는 일반적으로 어떤 측도의 차이를 최소화하는 것으로, 예를 들어 $f$-발산($f$-GANs)이나 적분 확률 거리(Integral Probability Metric, IPM)를 사용한다. $f$-발산을 목적 함수로 사용할 경우, 판별망(discriminator)은 밀도 비율을 근사하게 되며, 이 추정된 비율은 생성망(generator)의 샘플 품질을 향상시키는 데 유용한 정보를 제공한다. 그러나 와서슈타인 GAN(WGAN)의 판별망에 포함된 정보를 어떻게 활용할 수 있을지에 대한 연구는 아직 충분히 이루어지지 않았다. 본 논문에서는 WGAN의 판별망이 가지는 특성과 WGAN과 에너지 기반 모델(energy-based model) 간의 관계에 기반하여, 판별망 대비 발산(Discriminator Contrastive Divergence)을 제안한다. 기존의 GAN과 달리 생성망을 직접 이용해 새로운 샘플을 생성하는 방식과 달리, 본 방법은 반보상형 생성 절차(semi-amortized generation procedure)를 제안한다. 이 과정에서 생성망의 출력을 초기 상태로 사용하고, 판별망의 기울기를 활용하여 랑주뱅 동역학(Langevin dynamics)을 여러 단계 수행함으로써 샘플을 생성한다. 제안한 방법이 인공 데이터와 다양한 실제 이미지 생성 벤치마크에서 생성 품질이 크게 향상됨을 실험을 통해 입증하였다.