11일 전

확률적 오토인코더

Vanessa Böhm, Uroš Seljak
확률적 오토인코더
초록

주성분 분석(PCA)은 고정된 성분 차원을 가진 선형 모델의 범주 내에서 재구성 오차를 최소화한다. 확률적 PCA는 PCA의 잠재 공간 가중치의 확률 분포를 학습함으로써 확률적 구조를 추가함으로써 생성 모델을 형성한다. 오토인코더(AE)는 고정된 잠재 공간 차원을 가진 비선형 모델의 범주에서 재구성 오차를 최소화하며, 고정된 차원에서 PCA보다 우수한 성능을 발휘한다. 본 연구에서는 정규화 흐름(NF)을 사용하여 오토인코더의 잠재 공간 가중치의 확률 분포를 학습하는 확률적 오토인코더(PAE)를 제안한다. PAE는 학습이 빠르고 간편하며, 작은 재구성 오차, 높은 샘플 품질, 그리고 하류 작업에서 우수한 성능을 달성한다. PAE를 변분 오토인코더(VAE)와 비교하여, PAE가 더 빠르게 학습되며, 더 낮은 재구성 오차에 도달하고, 특별한 튜닝 파라미터나 복잡한 학습 절차 없이도 우수한 샘플 품질을 생성함을 보여준다. 또한 PAE가 이미지 복원 문제의 베이지안 추론 맥락에서 보간 및 노이즈 제거 응용을 위한 역 문제 해결 시 확률적 이미지 재구성이라는 하류 작업에 매우 강력한 모델임을 입증한다. 마지막으로, NF를 통해 추정한 잠재 공간 밀도가 이상 탐지 지표로서 매우 유망한 후보임을 밝혔다.

확률적 오토인코더 | 최신 연구 논문 | HyperAI초신경