HyperAI超神经

全局最小 Global Minimum

全局最小是指所有点中最小的那个,相对概念是局部极小,若误差函数只有一个局部极小,那么此时的局部极小就是全局最小,若误差函数存在多个局部极小,则无法保证找的解是全局最小。

找到全局最小的方法

  • 寻找多个局部最小,取其中的最小值;
  • 使用「模拟退火」技术;
  • 使用随机梯度下降法。