数学建模|梯度之最速下降法

目录

1 最速下降法

数学建模|梯度之最速下降法
【最速下降法】在每次的迭代过程中,选取一个合适的步长αk,使得目标函数的值能够最大程度的减小

  • 停止条件:
    数学建模|梯度之最速下降法
  • 3,4式为1,2式的相对值,而5,6式是为了避免3,4式中的分母过小进行的修改
  • 个人感悟:在大部分情况下,下降最快的α应该都对应着斜率k。

2 代码实现(见[2])

数学建模|梯度之最速下降法

  • 搜索方向d(k):
    数学建模|梯度之最速下降法
  • λ(k)的确定:
    数学建模|梯度之最速下降法
    记住正交。
    数学建模|梯度之最速下降法

参考文献和网址

[1]最速下降法
[2]最速实例