学习规则 Learning Rule

学习规则是神经网络模型中的概念,其表示网络中权重会随着时间的推进而调整,一般被看做是长时间尺度的动力学规则。

一般情况下,学习规则依赖于神经元的激励值,其也可能依赖监督者提供的目标值、当前权重值。

例如手写识别使用的神经网络,存在一组输入神经元,其会被输入图像的数据激发,在激励值被加权且通过一个函数后,这些神经元的激励值会被传递到其他神经元,这个过程不断重发,直到输出神经元被激发,最终输出神经元的激励值决定识别出来的字母。