2달 전
변환 자기회귀 네트워크
Junier B. Oliva; Avinava Dubey; Manzil Zaheer; Barnabás Póczos; Ruslan Salakhutdinov; Eric P. Xing; Jeff Schneider

초록
일반 밀도 추정 $p(x)$는 기계 학습 분야에서 큰 관심을 받고 있는 기본적인 과제입니다. 본 연구에서는 밀도 추정 방법을 체계적으로 특성화하려고 시도하였습니다. 대체로 대부분의 기존 방법은 다음과 같이 두 가지 범주로 분류될 수 있습니다: \textit{a}) 사슬 규칙의 조건부 요소를 추정하기 위해 자기회귀 모델을 사용하거나, \textit{b}) 간단한 기초 분포의 변수에 대한 비선형 변환을 수행합니다. 이러한 범주의 특성을 연구한 결과, 각 범주에 대해 여러 가지 새로운 방법을 제안하였습니다. 예를 들어, 비마르코프 의존성을 모델링하기 위해 RNN 기반 변환을 제안하였습니다. 또한 실제 데이터와 합성 데이터를 대상으로 한 포괄적인 연구를 통해, 변수의 변환과 자기회귀 조건부 모델을 동시에 활용하면 성능이 크게 향상됨을 보였습니다. 우리는 우리의 모델이 이상치 검출과 이미지 모델링에 어떻게 적용되는지를 설명하였습니다. 마지막으로, 분포족을 학습하기 위한 새로운 데이터 주도적 프레임워크를 소개합니다(learning a family of distributions).