系统辨识方面的书 完整的PDF 值得一看

梯度下降算法 以下内容参考 微信公众号 AI学习与实践平台 SIGAI 导度和梯度的问题 因为我们做的是多元函数的极值求解问题，所以我们直接讨论多元函数。多元函数的梯度定义为： 其中称为梯度算子，它作用于一个多元函数，得到一个向量。下面是计算函数梯度的一个例子 可导函数在某一点处取得极值的必要条件是梯度为0，梯度为0的点称为函数的驻点，这是疑似极值点。需要注意的是，梯度为0只是函数取极值的必要条件而不是充分条件，即梯度为0的点可能不是极值点。 至于是极大值还是极小值，要看二阶导数/Hessian矩阵，Hessian矩阵我们将在后面的文章中介绍，这是由函数的二阶偏导数构成的矩阵。这分为下面

% 程序功能：多基站UWB观测距离WLS和LS三边定位算法比较分析MATLAB源码

[x, ind] = OLS(A,b,r) 给出最小二乘问题的解仅使用从矩阵 A 中存在的回归器中选择的最佳 r 回归器。 此函数还返回向量 ind 中的索引最佳 r 回归量（即，要使用的最佳 A 列）。

实现了最小二乘算法，用c语言编写的源代码，

偏最小二乘算法（Partial Least Squares，PLS）是一种常见的多元线性回归算法，MATLAB在R2008a版本已经加入了PLS算法的实现函数。 该代码把偏最小二乘算法（Partial Least Squares，PLS）的回归应用整理为“读取数据-训练模型-数据预测”的形式。

单容液位系统最小二乘Bayes算法参数辨识。

RLS算法中，权矢量随迭代次数的增长而变化的收敛情况

经典算法matlab代码实现，经过测试，完全可用，用于计算机视觉的图像标定。

对于超级电容器经典等效电路模型，建立相应数学模型，利用最小二乘算法对模型参数进行辨识，准确估算特性参数可研究超级电容器在老化过程中特性的变化。