用matlab画图像概率密度梯度图，基于直方图的方法，给大家做个参考吧，^-^

SGD随机梯度下降Matlab代码

Grad-CAM：梯度加权类激活映射（Grad-CAM）

这是一篇NIPS 2017年的论文作者演讲的ppt，TernGrad是一种梯度量化方法，将浮点梯度随机量化到{-1,0,+1}，在保证识别率的情况下，大大降低梯度通信量.这篇文章降低了通讯量，可以应用在很多应用上。作者的视频讲解链接：https://www.youtube.com/watch?v=WWWQXTb_69c&feature=youtu.be&t=20s

梯度下降算法处理曲线拟合问题，线性 ，单极点，多极点数据均有良好的表现

动力系统的参数识别和比较在许多领域都是一项具有挑战性的任务。 基于时间序列数据的高斯过程回归的贝叶斯方法已成功应用于推断动态系统的参数，而无需显式求解。 虽然计算成本的好处已经确立，但过去的理论基础一直受到批评。 我们提供了一种新颖的解释，由于对一般非线性动力系统进行了更有效的设置，因此可以更好地理解和改进最先进的性能，包括准确性、鲁棒性和运行时间的减少。梯度匹配是一种成功的工具，可以避免动态系统中贝叶斯参数识别的数值积分计算成本，特别是如果动态系统（如大多数现实世界系统中的系统）相当平滑。 以前的基于高斯过程的方法使用了专家启发式的批评产品，这导致了技术上的困难。 我们说明了这些理论问题并提供了 一种不依赖 PoE 的新颖、合理的表述。 我们进一步解释了基于采样的变分方法的惊人性能提升，然后结合这些见解提出了一种称为 FGPGM 的新算法，该算法联合学习状态和参数，并在准确性方面提高了最先进的性能， 一般非线性动力系统的运行时间、鲁棒性和“平滑偏差”的减少。 与之前的 MCMC 方法不同，FGPGM 使用单链 Metropolis Hastings 方案，这比之前使用的复

通过构建损失函数，采用梯度下降的思想实现对数据点的拟合，可通过改变损失函数的次数将直线拟合推广到高次函数拟合 欢迎批评指正！

梯度下降法及NN的excel实现

线性回归梯度下降代码（ML_algorithm-master） 有Linear_regression、utils等

人体检测梯度方向直方图 Histograms of Oriented Gradients for Human Detection