Hopfield 网络

Hopfield 网络由美国加州理工大学物理学家约翰・霍普菲尔德 (John Hopfield) 在 1982 年提出,他发表了一篇对人工神经网络研究颇有影响的论文「Neural networks and physical systems with emergent collective computational abilities」(具有涌现性集体计算能力的神经网络和物理系统),介绍了 Hopfield 网络的基本理论。在 2024 年,约翰・霍普菲尔德因在神经网络方面的工作获得诺贝尔物理学奖。

Hopfield 网络是一种递归神经网络。它是一种结合存储系统和二元系统的神经网络,主要用于联想记忆和模式识别等问题。其核心特点是能够收敛到一个或几个稳定的状态,这些稳定状态也被称为吸引子,每个吸引子都可以用于储存一个模式。当输入数据为残缺或受干扰的信息时,网络可以通过联想回忆出完整的信息。

从结构上看,Hopfield 网络是一个单层的、全连接的神经网络,即一层神经网络中的任意两个神经元之间都有连接,并且连接权重是对称的。神经元的输出只有两种状态(比如 -1 或 1,也可以是 0 或 1),神经元的状态取决于其他神经元的状态和它们之间的连接权重。