多模态图像配准的特征邻域互信息.pdf

比较细节的介绍Matlab中回归拟合函数。包含残差计算等内容。不同于以往的不负责任的回归不给出置信区间绘图

该程序计算调整后的互信息以比较聚类。 这包括： - 互信息/调整互信息- 兰德指数和其他一些指数（见代码） 参考： [1] Vinh, NX; 埃普斯，J。 贝利，J.（2009 年）。 “聚类比较的信息论措施”。 第 26 届机器学习国际会议论文集 - ICML '09 [2] Vinh, Nguyen Xuan; 埃普斯，朱利安； Bailey, James (2010)，“聚类比较的信息理论测量：变体、属性、归一化和机会校正”，机器学习研究杂志 11（10 月）：2837-54

变量选择是分类中最重要的模型选择问题之一。 提出了一种新的基于局部偏最小二乘（KPLS）子空间中的最近邻（FNN）的方法，以选择简约变量作为非线性建模输入。 首先，将非线性输入简化为KPLS子空间的主要成分。 此外，它们的重要性的顺序是根据FNN在KPLS子空间中启发的距离度量确定的。 这样，识别出了不重要的变量。 最后，使用不同的参数模型研究了3个典型分类问题的变量选择。 结果表明，该方法对非线性模型约简是有效的。 因此，可以用于非线性系统的变量选择。

影响个人信用的因素很多。 将套索技术引入个人信用评估，分别建立套索逻辑，套索支持向量机和组套索逻辑模型。 变量选择和参数估计也同时进行。 根据某贷款平台的个人信用数据集，可以通过实验得出结论，与全变量Logistic模型和逐步Logistic模型相比，Group Lasso-Logistic模型的变量选择能力最强，其次是套索物流和套索SVM。 这三个基于套索变量选择的模型都具有比逐步选择更好的过滤能力。 同时，组套索逻辑模型可以消除或保留相关的虚拟变量作为一个组，以方便模型解释。 在预测准确性方面，Lasso-SVM在训练集中对默认用户的预测准确性最高，而在测试集中，Group Lasso-logistic对默认用户的分类准确性最高。 无论是在训练集中还是在测试集中，套索逻辑模型对于非默认用户都具有最佳分类精度。 基于套索变量选择的模型还可以更好地筛选出影响个人信用风险的关键因素。

建立完回归模型后，还需要验证咱们建立的模型是否合适，换句话说，就是咱们建立的模型是否真的能代表现有的因变量与自变量关系，这个验证标准一般就选用拟合优度。 拟合优度是指回归方程对观测值的拟合程度。度量拟合优度的统计量是判定系数R^2。R^2的取值范围是[0，1]。R^2的值越接近1，说明回归方程对观测值的拟合程度越好；反之，R^2的值越接近0，说明回归方程对观测值的拟合程度越差。 拟合优度问题目前还没有找到统一的标准说大于多少就代表模型准确，一般默认大于0.8即可 拟合优度的公式：R^2 = 1 – RSS/TSS 注： RSS 离差平方和 ； TSS 总体平方和 理解拟合优度的公式前，需要先了

果要根据回归方程进行预测和控制，还应该计算很多指标，如偏相关指标，t分布检验指标等，不过，本文只是介绍2个函数，并不是完整的回归分析程序，因此没必要计算那些指标。

由于神经网络很容易实现从输入空间到输出空间的非线性映射,因此,神经网络应用者往往未考虑输入变量和输出变量之间的相关性,直接用神经网络来实现输入变量与输出变量之间的黑箱建模,致使模型中常存在冗余变量,并造成模型可靠性和鲁棒性差。提出一种透明化神经网络黑箱特性的方法,并用它剔除模型中的冗余变量。该方法首先利用神经网络释义图可视化网络;再利用连接权法计算神经网络输入变量的相对贡献率,判断其对输出变量的重要性;最后利用改进的随机化测验对连接权和输入变量贡献率进行显着性检验,修剪模型,并以综合贡献度和相对贡献率均不显着的输入变量的交集为依据,剔除冗余变量,实现NN模型透明化及变量选择。实验结果表明,该方法增加了模型的透明度,选择出了最佳输入变量,剔除了冗余输入变量,提高了模型的可靠性和鲁棒性。因此,该研究为神经网络模型的透明化及变量约简提供了一种新的方法。

神经网络BP算法与回归分析算法进行统计预测的比较研究

2-1数据是火灾例题的数据、2-7是另外一题的数据、附上两份R语言代码。具体使用与解释在我写的另外一篇博客上面