利用梯度下降法求函数极小值，或稍作修改用梯度上升法求极大值，附带测试函数

MATLAB梯度下降法求多元函数的极值以及极值点； 程序+文档

对数几率回归（Logistic Regression），又称为逻辑回归的python实现，并且通过梯度下降法进行优化

改动源数据地址即可运行

机器学习的一个作业，用C语言写的简单易懂可直接运行。梯度下降（gradient descent）在机器学习中应用十分的广泛，不论是在线性回归还是Logistic回归中，它的主要目的是通过迭代找到目标函数的最小值，或者收敛到最小值。

里面有各种梯度下降法：SGD、Momentum、NAG、Aagrad、RMSProp、Adam算法代码；

最小二乘法是先将方程自变量与因变量化为系数矩阵X，再求该矩阵的转置矩阵（X1），接着求矩阵X与他的转置矩阵的X1的乘积（X2），然后求X2的逆矩阵。最后整合为系数矩阵W，求解后分别对应截距b、a1、和a2。可见计算一个矩阵的逆是相当耗费时间且复杂的,而且求逆也会存在数值不稳定的情况。 梯度下降法迭代的次数可能会比较多,但是相对来说计算量并不是很大。且其有收敛性保证。故在大数据量的时候,使用梯度下降法比较好。 梯度下降法 import numpy as np from matplotlib import pyplot as plt from mpl_toolkits.mplot3d import

BB方法和梯度下降法的Python实现及比较

深入浅出--梯度下降法及其实现Good

梯度下降法C语言源程序。主要实现多项式的梯度下降迭代算法。