对比决策树分类 整棵决策树就对应着一组析取表达式规则。

过分拟合与多重比较 模型的过分拟合可能出现在使用多重比较过程的算法中 多重比较的例子：考虑未来十个交易日股市是升还是降 一个人十次猜测至少正确预测八次的概率是：0.0547 假设从50个股票分析家中选择一个投资顾问，策略是选择在未来的十个交易日做出最多正确预测的分析家。 该策略的缺点是，即使所有的分析家都用随机猜测做出预测，至少有一个分析家做出八次正确预测的概率是：1-（1-0.0547）50=0.9399，这一结果相当高。

决策树的分类 信息增益 信息增益 = 分类前后的信息熵之差 信息增益越高，就越应优先选择该属性进行分类 通过信息增益来进行分类，会优先选择类别多的属性进行划分 信息增益率 为了解决信息增益会优先选择类别多的属性进行划分的问题，使用信息增益率。 但是没啥用 基尼系数 基尼值 从数据集D中随机抽取两个样本，其类别标记不一致的概率。故，Gini（D）值越小，数据集D的纯度越高。 基尼系数 选择使划分后基尼系数最小的属性作为最优化分属性。 不同的决策树类型 信息增益 – ID3 决策树 会偏向使用属性更多的类别进行划分 只能处理离散的数据集 信息增益率 – C4.5 决策树 对ID3 决策

为了解决信息安全风险评估方法主观性大、建模时间长、分类正确率低的问题，提出了基于决策树的智能信息安全风险评估方法。该方法利用层次分析法对信息安全风险评估因素进行层次分解，利用机器学习中的决策树分类算法对数据进行分类。实例分析表明：与基于支持向量机的信息安全风险评估方法相比，在处理央企、银行、政府等单位风险评估过程中得到的离散型数据时，基于决策树的智能信息安全风险评估方法对数据类别分布无要求，分类正确率提高了2倍，且分类速度快。因此该方法更适合应用于实际的信息系统风险评估中。

在科学把握决策树与信用风险管理理论的基础上，对现有信用风险评估模型和方法进行了分析评价，针对信用评估结果不确定的情况，在企业信用风险评估中引入决策树分析方法，建立了基于决策树技术的企业信用风险评估模型，使信用风险评估工作更科学、可靠，更直观，以便更科学地筛选赊销对象。

matplotlib.pyplot绘制决策树的准确率，召回率，ROC，特征重要性-附件资源

java实现的决策树算法（ID3），里面附带测试数据集，包含输出构建的决策树，测试正确率，对数据进行预测

null决策树算法.ppt

机器学习与算法源代码5： 决策树模型.zip

基于matlab的表情识别代码从面部表情识别情绪 目录 介绍 在实施和测试基本机器学习技术方面的动手经验。 将要检查的技术是决策树（DT）和人工神经网络（ANN）。 这些技术中的每一种都将用于基于一组标记的面部动作单元（AU）从人的面部表情中识别出六种基本情绪（愤怒，厌恶，恐惧，幸福，悲伤和惊奇）。 后者对应于人类面部肌肉的收缩，这是每一个面部表情的基础，包括六种基本情感的面部表情。 前述技术的实施需要对这些技术的理解。 面部动作编码系统和基本情绪 在计算机科学研究中，当今时代的一大挑战是对人类面部表情的自动识别。 能够执行此任务的机器在行为科学，安全性，医学，游戏和人机交互（HMI）等领域具有许多应用。 众多认知科学家已经证明了面部表情在人际交流中的重要性。 例如，我们使用面部表情来同步对话，显示我们的感受并表示同意，否定，理解或困惑，仅举几例。 因为人与人之间的交流比人与机器之间的交流更为自然，所以设计能够模拟人与人之间的交互以实现人与机器之间相同自然交互的机器是逻辑上的一步。 为此，机器应该能够检测并理解我们的面部表情，因为它们是人与人之间交流的重要组成部分。 流式细胞仪 传统上