牛顿法 Newton’s Method

牛顿法是在实数域和复数域上近似求解方程的方法，其利用函数 f(x) 的泰勒级数计算方程 f(y) = 0 的根。

牛顿法思想

牛顿法利用迭代点处的一阶和二阶导数对目标函数进行二次函数近似，然后将模型的极小点作为新的迭代点，并不断重复这一过程，直到求得满足精度的近似极小值。

牛顿法特点

速度相对较快，且高度逼近最优值。

牛顿法迭代步骤

迭代算法解决问题，需要满足下列三点：

• 确定迭代变量：在可用迭代算法解决的问题中，至少存在一个可由旧值递推出新值的变量；
• 建立迭代关系式：通常可用递推或倒推的方式完成；
• 控制迭代过程：所需迭代次数是确定值，其可通过构建固定次数的循环实现；所需迭代次数不确定，需要进一步分析得出结束迭代过程的条件。

牛顿法分类

• 基本牛顿法
• 全局牛顿法