drtoolbox: Matlab Toolbox for Dimensionality Reduction是Laurens van der Maaten开发的用来数据降维的工具箱,其中包含了著名的PCA,LDA算法,流行学习算法MLE,LLE,LPP,SNE,Isomap等,和度量学习算法LMNN,MCML,NCA等。
一阶梯度法
a. Steepest descendent
Sk = -gk/|gk|
direction
gradient
知道了方向,如何确定步长呢?
最常用的是先选择任意步长l,然后在计算中调节
用体系的能量作为外界衡量标准,能量升高了则逐步减小步长。
robust, but slow
最速下降法