线性回归
具有特征选择的线性回归
通过拟合独立变量和因变量之间的最佳线性关系来预测目标值。
最小二乘法:y = mx + c
简单LR:仅使用单个独立变量
多个LR:使用多个独立变量时,如果它们具有多个参数,则可以使用梯度下降来降低成本函数
指标:{some imp} MSE:预测输出与实际输出之间的平均平方距离MAE:预测输出与精算输出之间的平均距离{当存在异常值时,我们使用MAE} RMSE:MSE的平方根
代码说明:
从sklearn加载的Boston数据集
检查空值并拆分数据集
使用Extratree classsifer(){功能选择}查找功能重要性
查找特征之间的相关性
使用chi2方法选择最佳功能{selectKbest}
拟合模型
检查指标值
在这里,我们使用了3种特征选择方法来找到最合适的方法!
1