초록
이 연구는 에너지 기반 사전 모델(energy-based prior model)과 다층 생성 모델(multi-layer generator model)의 학습 문제를 탐구한다. 다층 생성 모델은 상향식 계층 구조로 구성된 여러 층의 은닉 변수를 포함하며, 일반적으로 가우시안 사전 모델을 가정한다. 그러나 이러한 사전 모델은 표현력이 제한될 수 있어 생성 모델의 사후 분포와 사전 모델 사이에 차이가 발생하게 되며, 이를 '사전 구멍 문제(prior hole problem)'라고 한다. 최근 연구들은 이러한 격차를 보완하기 위해 에너지 기반 모델(EBM)을 두 번째 단계의 보완적 모델로 학습하는 방식을 탐색해왔다. 그러나 다층 은닉 공간에 정의된 EBM은 매우 다중 모달(multi-modal)일 수 있어, 이러한 근본적인 EBM 사전 모델로부터 샘플링하는 것이 실질적으로 매우 어렵게 되며, 결과적으로 EBM 학습이 효과적이지 못하게 된다. 이러한 문제를 해결하기 위해, 본 연구에서는 확산 확률적 프레임워크(diffusion probabilistic scheme)를 활용하여 EBM 샘플링의 부담을 완화하고, EBM 학습을 촉진하는 방법을 제안한다. 광범위한 실험을 통해 제안한 확산 기반 EBM 사전 모델이 다양한 도전적인 과제에서 우수한 성능을 보임을 입증하였다.