上传者: 38564598
|
上传时间: 2021-10-25 14:21:48
|
文件大小: 195KB
|
文件类型: -
airfoil4755 下载
链接:https://pan.baidu.com/s/1YEtNjJ0_G9eeH6A6vHXhnA
提取码:dwjq
11.6 Momentum
在 Section 11.4 中,我们提到,目标函数有关自变量的梯度代表了目标函数在自变量当前位置下降最快的方向。因此,梯度下降也叫作最陡下降(steepest descent)。在每次迭代中,梯度下降根据自变量当前位置,沿着当前位置的梯度更新自变量。然而,如果自变量的迭代方向仅仅取决于自变量当前位置,这可能会带来一些问题。对于noisy gradient,我们需要谨慎的选取学习率和batch size, 来控制梯度方