上传者: 38691194
|
上传时间: 2022-01-03 15:49:07
|
文件大小: 1.57MB
|
文件类型: -
matlab罚函数的代码
lab1
多项式拟合曲线
目标:
掌握最小二乘法求解(无惩罚项的损失函数)、掌握加惩罚项(2范数)的损失函数优化、梯度下降法、共轭梯度法、理解过拟合、克服过拟合的方法(如加惩罚项、增加样本)
要求:
生成数据,加入噪声;
用高阶多项式函数拟合曲线;
用解析解求解两种loss的最优解(无正则项和有正则项)
优化方法求解最优解(梯度下降,共轭梯度);
用你得到的实验数据,解释过拟合。
用不同数据量,不同超参数,不同的多项式阶数,比较实验效果。
语言不限,可以用matlab,python。求解解析解时可以利用现成的矩阵求逆。梯度下降,共轭梯度要求自己求梯度,迭代优化自己写。不许用现成的平台,例如pytorch,tensorflow的自动微分工具。
提交材料:
1.代码
2.实验报告
lab2
逻辑回归
目的:理解逻辑回归模型,掌握逻辑回归模型的参数估计算法。
要求:实现两种损失函数的参数估计(1,无惩罚项;2.加入对参数的惩罚),可以采用梯度下降、共轭梯度或者牛顿法等。
验证:1.可以手工生成两个分别类别数据(可以用高斯分布),验证你的算法。考察类条件分布不满足朴素