最近由于项目的需要，将最小二乘法的java代码转换成了python。

最小二乘法的矩阵表示

解：求Ax=b的最小二乘解就是求 的极小点。由于 下面先给出两个需要用到的向量求导公式： （3-2-1） （3-2-2） 当A不时对称阵时，式（3-2-10）应该为 （3-2-3）

最小二乘法的基本原理和多项式拟合matlab实现.doc

采用最小二乘曲线拟合，可寻求有限测量数据及其伴随误差的变化规律。曲线拟合先确定拟合模型，再确 定函数的所属类。多项式拟合先将其化为双曲线、S型曲线、倒指数曲线、对数曲线等拟合曲线，再求解拟合多项式 系数。并用Matlab编制程序，对测量数据进行拟合与仿真。

直线拟合算法的代码，输入线段数据数组通过最小二乘法算法计算，算法源代码没有调用库，输出了直线的a，b系数以及r^2。个人习惯使用QT5，在QT5上写的代码，可以直接编译。

目录 1. 一般最小二乘法 3 1.1. 一次计算最小二乘算法 3 1.2. 递推最小二乘算法 3 2. 遗忘因子最小二乘算法 6 2.1. 一次计算法 6 2.2. 递推算法 6 3. 限定记忆最小二乘递推算法 9 4. 偏差补偿最小二乘法 11 5. 增广最小二乘法 13 6. 广义最小二乘法 15 7. 辅助变量法 17 8. 二步法 19 9. 多级最小二乘法 21 10. Yule-Walker辨识算法 23 Matlab程序附录 24 附录1、最小二乘一次计算法 24 附录2、最小二乘递推算法 25 附录3、遗忘因子最小二乘一次计算法 26 附录4、遗忘因子最小二乘递推算法 27 附录5、限定记忆最小二乘递推算法 29 附录6、偏差补偿最小二乘递推算法 31 附录7、增广最小二乘递推算法 32 附录8、广义最小二乘递推算法 34 附录9、辅助变量法 36 附录10、二步法 38 附录11、多级最小二乘法 39 附录12、Yule-Walker辨识算法 42

可以对光谱数据进行预处理，除了偏最小二乘法之外，也有一些其他方法

采用递推最小二乘法求解超定线性方程组 Ax=b，其中 A 为 mxn 维的已知矩阵，b 为 m 维的已知向量，x 为 n 维的未知向量，其中 n=10，m=10000。A 与 b 中的元素服从独立同 分布的正态分布。绘出横坐标为迭代步数时的收敛精度曲线。

考虑基于最小二乘法的河道流量演算参数估计，对马斯京根法进行改进