对于一个多元函数，用最速下降法（又称梯度下降法）求其极小值的迭代格式为
其中为负梯度方向，即最速下降方向，αkαk为搜索步长。
一般情况下，最优步长αkαk的确定要用到线性搜索技术，比如精确线性搜索，但是更常用的是不精确线性搜索，主要是Goldstein不精确线性搜索和Wolfe法线性搜索。
为了调用的方便，编写一个Python文件，里面存放线性搜索的子函数，命名为linesearch.py，这里先只编写了Goldstein线性搜索的函数，关于Goldstein原则，可以参看最优化课本。
线性搜索的代码如下（使用版本为Python3.3）：
'''
线性搜索子函数
'''
import n
2022-12-12 16:36:33
161KB
1
脚本最速下降.m 使用最速下降法优化通用的多变量实值函数。 在迭代过程中，如果无法获得最佳步长，则采用固定步长为 0.001。 对于理论，可以参考任何关于优化技术的好书。 该脚本还可用于检查给定函数是凸函数还是凹函数，从而全局优化。
2022-05-29 10:28:51
2KB
1
无约束问题的优化算法，包括最速下降法 牛顿法 共轭梯度法 拟牛顿法四种算法程序，并显示最优点的迭代次数与迭代曲线。
2022-05-26 13:46:58
626KB
1
最优化算法实验课的代码，最速下降法的matlab实现，其中步长更新采用BB法
2022-04-20 18:08:40
1KB
1
主要介绍了基于Python共轭梯度法与最速下降法之间的对比，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2021-12-30 16:24:34
122KB
1