半监督学习与梯形网络

我们在深度神经网络中结合了监督学习和无监督学习。所提出的模型通过反向传播同时最小化监督和无监督代价函数的总和进行训练，从而避免了逐层预训练的需要。我们的研究基于Valpola（2015）提出的梯形网络（Ladder network），并在该模型中加入了监督机制。我们展示了该模型在半监督MNIST和CIFAR-10分类任务中达到了最先进的性能，同时在所有标签下的排列不变MNIST分类任务中也表现出色。