스토크라스틱 미분 방정식을 통한 점수 기반 생성 모델링

데이터에서 노이즈를 생성하는 것은 쉽지만, 노이즈에서 데이터를 생성하는 것은 생성 모델링이다. 우리는 복잡한 데이터 분포를 서서히 노이즈를 주입함으로써 알려진 사전 분포로 부드럽게 변환하는 확률미분방정식(stochastic differential equation, SDE)을 제안하며, 반대로 사전 분포를 다시 데이터 분포로 변환하기 위해 서서히 노이즈를 제거하는 역시간 SDE를 제시한다. 핵심적으로, 역시간 SDE는 변형된 데이터 분포의 시간에 따라 변하는 기울기 필드(즉, 스코어, score)에만 의존한다. 최근 스코어 기반 생성 모델링의 발전을 활용하여, 신경망을 통해 이러한 스코어를 정확히 추정할 수 있으며, 수치적 SDE 해법기를 사용해 샘플을 생성할 수 있다. 본 연구에서는 이 프레임워크가 기존의 스코어 기반 생성 모델링 및 확산 확률 모델링 기법을 포괄함을 보이며, 새로운 샘플링 절차와 새로운 모델링 능력을 가능하게 한다. 특히, 이산화된 역시간 SDE의 진화 과정에서 발생하는 오차를 보정하기 위해 예측-보정(predictor-corrector) 프레임워크를 도입한다. 또한, 동일한 분포에서 샘플을 생성하는 것과 동시에 정확한 우도(likelihood) 계산이 가능하고 샘플링 효율이 향상되는 등가의 신경미분방정식(neural ODE)을 유도한다. 더불어, 스코어 기반 모델을 이용한 역문제 해결을 위한 새로운 방법을 제시하며, 클래스 조건부 생성, 이미지 보간(imaging inpainting), 색상화(colorization) 실험을 통해 그 효과를 입증한다. 다양한 아키텍처적 개선과 결합하여, CIFAR-10에서 무조건적 이미지 생성(task)에서 기록적인 성능을 달성하였으며, Inception 점수는 9.89, FID는 2.20을 기록하였고, 2.99 비트/차원의 경쟁 가능한 우도를 달성하였으며, 스코어 기반 생성 모델로서 최초로 1024×1024 해상도의 고해상도 이미지를 높은 품질로 생성하는 것을 성공적으로 실현하였다.