采用Matlab实现梯度下降各种优化算法,进行函数逼近,优化算法包括冲量法、NAG、Aagrad、RMSProp、Adam算法。可以通过该实验进行各种算法的比较,可以自行调整参数查看实验效果。
1