ラダーネットワークを用いた半教師付き学習

我々は深層ニューラルネットワークにおいて教師あり学習と教師なし学習を組み合わせています。提案されたモデルは、バックプロパゲーションによって教師ありコスト関数と教師なしコスト関数の和を同時に最小化するように訓練されます。これにより、層ごとの事前学習の必要がなくなります。本研究では、Valpola (2015) が提案したラダーネットワークを基盤としており、このモデルに教師あり学習を組み合わせることで拡張しています。結果として得られたモデルは、半教師付きMNISTおよびCIFAR-10分類において最先端の性能を達成しており、さらに全ラベルを使用した順序不変性MNIST分類でも優れた性能を示しています。