3달 전
연속시간 기능 확산 과정
Giulio Franzese, Giulio Corallo, Simone Rossi, Markus Heinonen, Maurizio Filippone, Pietro Michiardi

초록
우리는 점수 기반 확산 모델을 무한차원 함수 공간으로 일반화한 기능적 확산 과정(Functional Diffusion Processes, FDPs)을 제안한다. FDPs는 전방 및 후방 역학을 기술하기 위한 새로운 수학적 틀을 필요로 하며, 실용적인 학습 목표를 도출하기 위한 여러 확장이 필요하다. 이러한 확장에는 ELBO(하한 추정량)를 계산할 수 있도록 해주는 무한차원 Girsanov 정리의 버전과, 가산 점 집합에서의 함수 평가가 무한차원 함수와 동치임을 보장하기 위한 샘플링 정리의 무한차원 버전이 포함된다. 우리는 FDPs를 이용하여 특별한 네트워크 아키텍처가 필요 없으며, 어떤 형태의 연속 데이터에도 적용 가능한 새로운 유형의 함수 공간 내 생성 모델을 구축한다. 실제 데이터에 대한 실험 결과는, 기존의 확산 모델보다 파라미터 수가 수 개의 지수 차수만큼 적은 간단한 MLP 아키텍처를 사용함에도 불구하고 FDPs가 높은 품질의 이미지 생성을 달성할 수 있음을 보여준다.