17일 전

반사 확산 모델

Aaron Lou, Stefano Ermon
반사 확산 모델
초록

점수 기반 확산 모델은 데이터를 노이즈로 매핑하는 확률적 미분 방정식을 역으로 학습한다. 그러나 복잡한 작업에서는 수치 오차가 누적되어 매우 자연스럽지 않은 샘플이 생성될 수 있다. 기존의 연구는 각 확산 단계 후에 자연스러운 데이터 영역(예: 이미지의 픽셀 공간)으로 투영하는 경계치 기반 방식으로 이러한 편차를 완화하였지만, 이는 학습 과정과 생성 과정 사이에 불일치를 초래한다. 데이터 제약을 체계적으로 통합하기 위해, 본 연구에서는 데이터의 지지 집합 위에서 진화하는 반사된 확률적 미분 방정식을 역으로 학습하는 반사 확산 모델(Reflected Diffusion Models)을 제안한다. 본 방법은 일반화된 점수 매칭 손실을 통해 편향된 점수 함수를 학습하며, 표준 확산 모델의 핵심 구성 요소인 확산 안내(diffusion guidance), 가능도 기반 학습, ODE 샘플링 등을 확장한다. 또한 경계치 기반 방법과의 이론적 간극을 메운다. 즉, 이러한 기법들은 반사된 확률적 미분 방정식의 이산화(discretization)에 불과하다는 것을 밝힌다. 표준 이미지 벤치마크에서 제안하는 방법은 아키텍처 수정 없이 기존 최고 성능을 경쟁하거나 초월하며, 분류기 없는 안내(classifier-free guidance) 상황에서는 ODE 기반의 빠른 정확한 샘플링이 가능하고, 높은 안내 가중치에서도 더 사실적인 샘플을 생성한다.

반사 확산 모델 | 최신 연구 논문 | HyperAI초신경