17일 전

블랙아웃 디퓨전: 이산 상태 공간에서의 생성형 디퓨전 모델

Javier E Santos, Zachary R. Fox, Nicholas Lubbers, Yen Ting Lin
블랙아웃 디퓨전: 이산 상태 공간에서의 생성형 디퓨전 모델
초록

일반적인 생성형 확산 모델은 역방향 변환을 학습하기 위해 가우시안 확산 과정에 의존하며, 이를 통해 가우시안 노이즈에서 샘플을 생성할 수 있다. 그러나 실제 세계의 데이터는 종종 이산 상태 공간에 존재하며, 이는 많은 과학적 응용 분야에서도 나타난다. 본 연구에서는 전방 확산 과정에서 임의의 이산 상태 마르코프 과정에 대한 이론적 형식을 정립한다. 여기서는 변분적 접근이 아닌 정확한(정확한) 분석을 사용한다. 이 이론을 기존의 연속 상태 가우시안 확산 모델 및 다른 이산 확산 접근법과 연결하고, 연속 시간 설정에서 역시간 확률 과정과 스코어 함수, 이산 시간 설정에서의 역시간 변환을 규명한다. 본 프레임워크의 예시로, 노이즈가 아닌 빈 이미지에서 샘플을 생성하도록 학습하는 '블랙아웃 확산(Blackout Diffusion)'을 제안한다. CIFAR-10, 바이너리 MNIST, CelebA 데이터셋에서의 수치 실험을 통해 본 방법의 타당성을 입증하였다. 변분 근사 없이 특정(가우시안) 전방 과정에서 이산 상태 과정으로 일반화하는 것은 확산 모델을 해석하는 데 있어 새로운 통찰을 제공하며, 이에 대해 논의한다.

블랙아웃 디퓨전: 이산 상태 공간에서의 생성형 디퓨전 모델 | 최신 연구 논문 | HyperAI초신경