SA-Solver: 확률적 아담스 해법을 활용한 확산 모델의 빠른 샘플링

확산 확률 모델(Diffusion Probabilistic Models, DPMs)은 생성 과제에서 상당한 성공을 거두었다. DPM에서 샘플링은 시간이 소요되는 확산 확률미분방정식(SDE) 또는 상미분방정식(ODE)을 푸는 것과 동일하므로, 개선된 미분방정식 해법을 기반으로 한 빠른 샘플링 기법들이 다수 제안되어 왔다. 이러한 기법들 중 대부분은 효율성이 뛰어난 확산 ODE를 해결하는 방식을 고려한다. 그러나 확률적 샘플링은 다양한 고품질 데이터 생성 측면에서 추가적인 이점을 제공할 수 있다. 본 연구에서는 두 가지 측면에서 확률적 샘플링을 종합적으로 분석한다: 변동성 제어 확산 SDE와 선형 다단계 SDE 해법. 본 분석을 바탕으로, 고품질 데이터 생성을 위한 확산 SDE를 해결하기 위한 개선된 효율적인 확률적 애덤 방법(Stochastic Adams method)인 \textit{SA-Solver}를 제안한다. 실험 결과 \textit{SA-Solver}는 다음과 같은 성능을 달성한다: 1) 적은 단계의 샘플링에서 기존 최고 수준(SOTA)의 샘플링 기법들과 비교해 개선되거나 동등한 성능을 보인다; 2) 적절한 함수 평가 횟수(NFEs)에서 대규모 벤치마크 데이터셋에서 최고 수준의 FID(Fréchet Inception Distance) 성능을 기록한다. 코드는 https://github.com/scxue/SA-Solver 에서 제공된다.