要約
本稿では、新しいアーキテクチャである「スタック型何処オートエンコーダ」（Stacked What-Where Auto-Encoders, SWWAE）を提案します。このアーキテクチャは識別的パスと生成的パスを統合し、サンプリングに依存せずに教師あり学習、半教師あり学習、非教師あり学習の統一的な手法を提供します。SWWAEの一例では、入力の符号化に畳み込みニューラルネットワーク（Convolutional Net, Convnet）（LeCun et al. (1998)）を使用し、再構築の生成には逆畳み込みニューラルネットワーク（Deconvolutional Net, Deconvnet）（Zeiler et al. (2010)）が用いられます。目的関数には、Deconvnetの隠れ状態がConvnetのそれと類似するように誘導する再構築項が含まれています。各プーリング層は2つの変数セットを生成します：次の層へ伝達される「何」（what）と、生成デコーダの対応する層へ伝達される補完変数「どこ」（where）。