通过python程序,采用牛顿法和梯度下降法求解多元一次函数的线性回归方程
梯度下降法原理
梯度就是表示某一函数在该点处的方向导数沿着该方向取得较大值,即函数在当前位置的导数
Δ=df(Ɵ)÷d(Ɵ)
上式中,Ɵ是自变量,f(Ɵ)是关于Ɵ的函数,Ɵ表示梯度 简单来说Δ就是函数相对于自变量Ɵ的求导
梯度下降算法公式: Ɵ=Ɵ0-Ƞ*Δf(Ɵ0)
其中Ƞ是学习因子,由我们自己定义,Ɵ即为数据更新后下一个Ɵ0
f(Ɵ)=f(Ɵ0)+(Ɵ-Ɵ0)*Δf(Ɵ0)
通过该公示不断地进行数据迭代,就可以得到最终的数据
梯度下降法求解二元一次线性回归方程
import pandas as pd
import
1