Salva Rühling Cachay Miika Aittala Karsten Kreis Noah Brenowitz Arash Vahdat Morteza Mardani Rose Yu

초록

확산 모델은 확률적 예측에 강력한 도구이지만, 고차원의 혼돈 시스템에서의 대부분의 응용은 미래의 상태를 하나씩 단일 스크린으로 예측하는 방식을 취한다. 이러한 일반적인 접근법은 복잡한 시계열 종속성을 모델링하는 데 어려움을 겪으며, 이러한 시스템에 내재된 불확실성의 점진적 증가를 명시적으로 고려하지 못한다. 이 문제를 해결하기 위해 장기 예측 시점에서 예측에 점차적으로 노이즈를 적용하는 '롤링 확산 프레임워크'가 제안되었으나, 최신 고정밀 확산 기법과의 통합은 여전히 큰 도전 과제로 남아 있다. 본 연구에서는 이러한 문제를 해결하기 위해, 처음으로 '명확화된 롤링 확산 모델(Elucidated Rolling Diffusion Models, ERDM)'을 제안한다. ERDM은 명확화된 확산 모델(Elucidated Diffusion Models, EDM)의 체계적이고 뛰어난 설계 원칙과 롤링 예측 구조를 성공적으로 통합한 최초의 프레임워크이다. 이를 위해 EDM의 핵심 구성 요소인 노이즈 스케줄, 네트워크 전처리, 그리고 헤운 샘플러를 롤링 예측 환경에 적응시켰다. 이 통합의 성공은 세 가지 주요 기여에 기반한다: (i) 결정론이 확률론으로 전환되는 중간 예측 기간에 모델의 능력을 집중시키는 새로운 손실 가중 방식; (ii) 초기 창에 대한 사전 훈련된 EDM을 활용한 효율적인 초기화 전략; (iii) 점진적 노이즈 제거 과정에서 강건한 공간시적 특징 추출을 가능하게 하는 맞춤형 하이브리드 시퀀스 아키텍처. 2차원 나비에-스톡스 시뮬레이션과 1.5° 해상도의 ERA5 전 세계 기상 예측 데이터셋에서 ERDM은 조건부 자기회귀적 EDM을 포함한 주요 확산 기반 기준 모델들을 일관되게 상회한다. ERDM은 불확실성의 급격한 증가를 모델링하는 것이 핵심인 확산 기반 시퀀스 생성 문제에 유연하고 강력한 일반화 프레임워크를 제공한다. 코드는 다음 URL에서 제공된다: this https URL