对角CARIMA模型多变量广义预测控制介绍了多变量广义预测控制算法，基于受控自回归滑动平均模型（CARIMA），希望对大家有用

自变量为年份，同时选中Time选项

[b sigma2_x x_est y_est 统计] = deming(x,y,lambda,alpha) deming() 执行线性戴明回归以找到线性系数： y = b(1) + b(2)*x 假设 x 和 y *都包含测量误差，测量误差方差与 lambda = sigma2_y/sigma2_x 相关（sigma2_x 和 sigma2_y 分别是 x 和 y 变量的测量误差方差）。 计算按照 Anders Christian Jenson 在 2007 年 5 月对 MethComp 的 Deming 回归函数的描述（网站： http ://staff.pubhealth.ku.dk/~bxc/MethComp/Deming.pdf）中的描述进行，其中包括一个很好的斜率、截距、方差和 (x,y) 估计值的推导。 输入： x - [Nx1] 带误差的测量数据y - [Nx1] 有误

一维神经网络回归 在这里，我提供了一个示例，其中神经网络用于预测一维回归模型。 这是每个文件的简短描述： MLPregressionLoss.m：使用反向传播算法计算梯度 MLPregressionPredict.m：预测一维回归模型。 nnet.m ：这是一个演示，展示了每 100 次迭代的随机梯度方法的进展。

贷款违约数据集含有 年龄、教育、工龄、地址、收入、负债率、信用卡负债、其他负债以及违约情况的字段。通过各特征来判断用户的违约情况。用到的技术模型如下 逻辑回归 面对一个回归或者分类问题，建立代价函数，然后通过优化方法迭代求解出最优的模型参数，然后测试验证我们这个求解的模型的好坏。 k近邻法（k-nearest neighbor，k-NN） 一种基本的分类和回归方法，是监督学习方法里的一种常用方法。k近邻算法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例类别，通过多数表决等方式进行预测。 决策树 一种基于树结构来进行决策的分类算法，我们希望从给定的训练数据集学得一个模型（即决策树），用该模型对新样本分类。决策树可以非常直观展现分类的过程和结果，一旦模型构建成功，对新样本的分类效率也相当高。 SVM(Support Vector Machine) 中文名为支持向量机，是常见的一种判别方法。在机器学习领域，是一个有监督的学习模型，通常用来进行模式识别、分类以及回归分析。 模型评估 可以根据混淆矩阵。得到其Accuracy准确率以及F1 score

在本章中，我们将着重于找到一种最简单的关系：线性关系。毫无疑问，这个过程被称为线性回归，它有很多应用。例如，我们可以将拉伸弹簧的力和弹簧拉伸的距离联系起来（胡克定律，如图3.1a所示），或者解释随着时间的推移，半导体行业可以将多少晶体管封装到电路中（摩尔定律，如表3.1b所示）。

线性回归预测 - 基于《统计学基本实践》（第6版）第5章 概念：  解释变量与响应变量  回归线  最小二乘回归线  回归的事实  残留物  有影响力的观察  关于相关性和回归的注意事项  相关性并不意味着因果关系 目标：  量化解释变量（x）和响应变量（y）。  使用回归线预测x值的y值。  计算并解释残差。  描述有关相关性和回归的注意事项。

高斯过程回归是基于贝叶斯理论和统计学习理论发展起来的一种全新机器学习方法, 适于处理高维数、小
样本和非线性等复杂回归问题. 在阐述该方法原理的基础上, 分析了其存在的计算量大、噪声必须服从高斯分布等
问题, 给出了改进方法. 与神经网络和支持向量机相比, 该方法具有容易实现、超参数自适应获取以及输出具有概率
意义等优点, 方便与预测控制、自适应控制、贝叶斯滤波等相结合. 最后总结了其应用情况并展望了未来发展方向.

机器学习 回归篇（1）——多元线性回归摘要线性回归简介python实现运行结果及可视化 摘要 本文介绍了最基础的回归问题——多元线性回归，并通过python进行实现及可视化展示运行结果。 线性回归简介 线性回归问题的重点在于如何求解回归函数的截距和系数。 1、构建代价函数（也叫损失函数）：平均平方误差。 2、通过最小二乘法或其他优化算法进行求解，因为线性回归的代价函数为凸函数，所以一般的经典优化算法用于求解都是适用的，如梯度下降法、单纯形法等等。 python实现 CyrusLinearRegression类的有如下方法和属性： 1、fit()：用于拟合模型。 2、predict()：用于模型

为探究氧化物组成对煤灰熔融特性的影响，选取煤灰中的氧化物含量作为自变量，在SPSS软件平台上对变形温度DT、软化温度ST、半球温度HT和流动温度FT分别进行全子集回归和逐步回归，比较得到显著性最强的新定义的熔融指数FI和最优的回归预测方程。结果表明，单一氧化物组分对灰熔温度的影响不显著；对DT影响最显著的熔融指数为FID=Al2O3+Fe2O3，且煤灰中FID含量低于30%时，DT几乎不变化，含量大于30%时DT发生较大幅度降低；对FT影响最显著的熔融指数为FIF=SiO2+Al2O3+Fe2O3，且随着FIF含量升高，流动温度呈上升趋势；对半球温度HT影响最显著的熔融指数FIH= SiO2+Al2O3，对软化温度ST影响最显著的熔融指数FIS=SiO2+Al2O3+Fe2O3，但FIH和FIS对ST和HT的显著性略低，为得到更准确的预测模型，进一步以十种氧化物为起点通过逐步回归方法分析得到ST和HT的预测方程。