2달 전

MintNet: 마스킹된 합성곱을 사용한 역행 가능한 신경망 구축

Yang Song; Chenlin Meng; Stefano Ermon
MintNet: 마스킹된 합성곱을 사용한 역행 가능한 신경망 구축
초록

우리는 단순한 구성 요소와 새로운 조합 규칙을 결합하여 역행 가능한 신경망을 구축하는 새로운 방법을 제안합니다. 이는 ResNets와 유사한 구조를 포함하여 다양한 역행 가능한 아키텍처를 제공합니다. 역행은 병렬화 가능하고 실제로 매우 빠른 국소 수렴 반복 절차를 통해 이루어집니다. 또한, 야코비안의 행렬식은 해석적으로 효율적으로 계산할 수 있어, 이들을 생성 모델로서의 플로우 모델로 사용할 수 있게 합니다. 이들의 유연성을 보여주기 위해, 우리의 역행 가능한 신경망이 MNIST와 CIFAR-10 분류에서 ResNets와 경쟁력을 갖음을 입증하였습니다. 생성 모델로 훈련시킬 때, 우리의 역행 가능한 신경망은 MNIST, CIFAR-10 및 ImageNet 32x32에서 각각 차원당 비트(bit) 0.98, 3.32, 4.06의 경쟁력 있는 우도(likelihood)를 달성하였습니다.

MintNet: 마스킹된 합성곱을 사용한 역행 가능한 신경망 구축 | 최신 연구 논문 | HyperAI초신경