초록
우리는 새로운 아키텍처인 "스택형 무엇-어디 오토인코더" (Stacked What-Where Auto-Encoders, SWWAE)를 제시합니다. 이 아키텍처는 판별적 경로와 생성적 경로를 통합하여, 훈련 중 샘플링에 의존하지 않고 지도 학습, 준지도 학습 및 비지도 학습에 대한 통합된 접근 방식을 제공합니다. SWWAE의 구현체는 입력을 인코딩하기 위해 컨벌루션 네트워크(Convnet) (LeCun 등 (1998))를 사용하고, 디컨벌루션 네트워크(Deconvnet) (Zeiler 등 (2010))를 사용하여 재구성을 생성합니다. 목적 함수는 Deconvnet의 은닉 상태가 Convnet의 은닉 상태와 유사하도록 유도하는 재구성 항을 포함합니다. 각 풀링 레이어는 두 가지 변수 집합을 생성합니다: 다음 레이어로 전달되는 "무엇"과, 생성 디코더의 해당 레이어로 전달되는 보완 변수 "어디".