吴恩达机器学习第四章自己做的答案，然后满足吴恩达在他的pdf中期望我们达到的要求，其中有一小部分也是借鉴了其他答案
2021-12-14 21:59:25
7.62MB
1
该代码为matlab代码，由小编独立编写，非转载，可以直接运行，亲测提交成绩满分，供大家参考。PS：另外在提交时出现问题的同学，可以尝试用octave4.2.1提交，亲测win10下成功提交。
2021-12-14 21:49:58
270KB
1
压缩包内含吴恩达老师《Machine Learning》课程第四周的编程作业ex3所需完成的四个m文件。压缩包中所有编程作业均为本人独立完成，并尽量使用向量化计算，全部满分通过。
2021-12-13 16:24:14
4KB
1
在介绍Adam之前首先介绍一下momentum和RMSprop优化算法。
一、momentum
1、指数加权平均数
指数加权平均数不仅考虑了当前数值也涵盖了以前的数据对现在的影响。
解释指数加权平均值名称的由来：
指数加权平均值的应用：
使用这种方法进行数据的估计可能不是最精确的，但是这种方法计算简单，节省内存。
指数加权平均数因为设置的第0个值为0，所以对于前几个数都会出现严重的偏差，所以引入了偏差修正。
2.指数加权平均数的偏差修正
3.momentum算法
此算法是梯度下降算法的一种改进，在神经网络的反向传播过程中，不再只依赖当前参数的下降梯度进行参数的更新，也依赖以前几轮的参数和参数
2021-12-09 16:26:35
454KB
1