17일 전
점수 기반 모델을 사용하여 데이터를 생성할 때는 빠르게 진행해야 한다
Alexia Jolicoeur-Martineau, Ke Li, Rémi Piché-Taillefer, Tal Kachman, Ioannis Mitliagkas

초록
점수 기반(노이즈 제거 확산) 생성 모델은 최근 실감 나는 다양한 데이터 생성에 큰 성공을 거두고 있다. 이러한 접근 방식은 데이터를 노이즈로 변환하는 전방 확산 과정을 정의하고, 이를 역방향으로 수행함으로써 데이터를 생성한다(즉, 노이즈에서 데이터로의 전환). 그러나 현재의 점수 기반 모델은 수치적 SDE 해법기가 필요로 하는 점수 네트워크 평가 횟수가 매우 많아 데이터 생성 속도가 매우 느리다.본 연구에서는 보다 효율적인 SDE 해법기를 설계함으로써 이 과정을 가속화하고자 한다. 기존의 접근 방식은 고정된 단계 크기를 사용하는 오일러-마르야마(EM) 해법기를 활용한다. 우리는 이 EM 해법기를 단순히 다른 SDE 해법기로 대체하는 것은 성능이 저하된다는 것을 발견했다—이는 낮은 품질의 샘플을 생성하거나 EM보다 더 느려지는 결과를 초래한다. 이러한 문제를 해결하기 위해, 점수 기반 생성 모델에 특화된 적응형 단계 크기를 갖춘 SDE 해법기를 조건부로 세심하게 설계하였다. 제안하는 해법기는 단 두 번의 점수 함수 평가만으로도 작동하며, 샘플 거부 빈도가 거의 없고, 높은 품질의 샘플을 생성한다. 본 방법은 EM보다 2배에서 10배 빠르게 데이터를 생성하면서도, 샘플 품질은 더 우수하거나 동등하다. 고해상도 이미지 생성의 경우, 테스트된 모든 다른 방법보다 훨씬 높은 품질의 샘플을 생성한다. 또한 제안한 SDE 해법기는 단계 크기 조정이 필요하지 않다는 장점을 지닌다.