초록
에너지 기반 모델(EBM)은 가능도 모델링 측면에서 일반성과 단순성 덕분에 매력적인데, 전통적으로 학습이 어려웠다. 본 연구에서는 연속형 신경망 기반 MCMC를 활용한 EBM 학습 기법을 제안하고, ImageNet32x32, ImageNet128x128, CIFAR-10 및 로봇 손 궤적과 같은 고차원 데이터 영역에서의 성공을 보여준다. 이러한 모델은 다른 가능도 기반 모델보다 더 우수한 샘플을 생성하며, 현대적인 GAN 접근법의 성능에 근접하면서도 데이터의 모든 모드를 포괄한다. 또한, 암묵적 생성의 독특한 능력인 조합 가능성(compositionality), 손상된 이미지 복원 및 인페인팅(inpainting) 등을 강조한다. 마지막으로, EBM이 다양한 작업에 유용한 모델임을 보여주며, 이상치 탐지 분류, 적대적 공격에 강한 분류, 최첨단의 지속적 온라인 클래스 학습, 그리고 일관된 장기 예측 궤적 롤아웃 등에서 최고 수준의 성능을 달성한다.