초록
최근, 예제 집합으로부터 분포를 추정하기 위한 신경망 모델 설계에 많은 관심이 쏠리고 있습니다. 본 연구에서는 오토인코더 신경망의 간단한 수정을 소개하며, 이는 강력한 생성 모델을 제공합니다. 제안된 방법은 오토인코더의 매개변수를 마스킹하여 자기회귀 제약 조건을 준수하게 합니다: 각 입력은 주어진 순서에서 이전 입력들만을 통해 재구성됩니다. 이러한 방식으로 제약을 받으면, 오토인코더 출력은 조건부 확률들의 집합으로 해석될 수 있으며, 그 곱은 전체 결합 확률입니다. 또한, 단일 네트워크를 훈련시켜 여러 다른 순서로 결합 확률을 분해할 수도 있습니다. 본 연구의 간단한 프레임워크는 깊은 아키텍처를 포함한 다양한 아키텍처에 적용할 수 있습니다. 벡터화된 구현 방식(예: GPU 상에서)은 간단하고 빠릅니다. 실험 결과, 이 접근법이 최신 트랙터블 분포 추정기들과 경쟁력을 갖는 것으로 나타났습니다. 테스트 시점에서는 해당 방법이 다른 자기회귀 추정기들보다 현저히 빠르고 대규모 데이터에 더 잘 맞는 것으로 확인되었습니다.