多层感知机 Multilayer Perceptron
多层感知机 (Multilayer Perceptron,MLP) 是一种前向结构的人工神经网络,映射一组输入向量到一组输出向量。 可以被看作是一个有向图,由多个的节点层所组成,每一层都全连接到下一层。除了输入节点,每个节点都是一个带有非线性激活函数的神经元(或称处理单元)。 MLP 是感知器的推广,克服了感知器不能对线性不可分数据进行识别的弱点。
多层感知机作为一个具体的概念是在反向传播算法 (Backpropagation) 的提出后产生的,这一算法使得训练多层网络成为可能。反向传播算法最初在论文中「Learning representations by back-propagating errors」被明确描述,该论文由 David E. Rumelhart, Geoffrey E. Hinton, 和 Ronald J. Williams 在 1986 年发表,详细阐述了反向传播算法,并展示了如何使用该算法来训练多层感知机。
虽然多层感知机的早期概念和原型在此前已经存在,但这篇论文是将反向传播算法与多层网络结构明确联系起来,并在神经网络研究领域得到广泛认可的重要文献。在此之前,多层网络由于缺乏有效的训练方法而未能得到广泛应用。