FFJORD: Free-form Continuous Dynamics for Scalable Reversible Generative Models FFJORD: 확장 가능한 역행성 생성 모델을 위한 자유형 연속 동역학

약속된 생성 모델의 한 유형은 간단한 분포에서 복잡한 분포로 점들을 매핑하는 역할을 하는 가역 신경망을 통해 이를 수행합니다. 이러한 모델들의 우도 기반 학습은 저렴한 야코비안 행렬식 계산을 허용하도록 그 구조를 제한해야 합니다. 대안적으로, 변환 과정이 상미분방정식(ordinary differential equation)으로 지정되는 경우 야코비안 추적을 사용할 수 있습니다. 본 논문에서는 허친슨의 추적 추정기를 사용하여 로그-밀도(log-density)의 확장 가능한 편향되지 않은 추정치를 제공합니다. 결과적으로, 이 방법은 편향되지 않은 밀도 추정과 단일 패스 샘플링(one-pass sampling)을 가지면서도 제한 없는 신경망 구조를 허용하는 연속 시간 가역 생성 모델을 제시합니다. 우리는 이 접근 방식을 고차원 밀도 추정, 이미지 생성, 그리고 변분 추론(variational inference)에 적용하여 효율적인 샘플링을 갖춘 정확한 우도 방법들 중 최고의 성능을 달성하였습니다.