决策树的应用python

【博客源代码】程序设计-在校整理-08 基于决策树的分类示例源代码与数据文件

本代码通过使用python代码实现CART带后剪枝决策树，使用pydotplus库绘制决策树，其中.cvs为数据文件，.png为绘制决策树图形，推荐在anaconda中运行.py 文件

决策树代码Python（包含GINI，信息熵构建方法，10折交叉验证，Adaboost以及Boost方法）

波士顿房价机器学习作业python编码，策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。 决策树方法最早产生于上世纪60年代，到70年代末。由J Ross Quinlan提出了ID3算法，此算法的目的在于减少树的深度。但是忽略了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改进，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进，既适合于分类问题，又适合于回归问题。 决策树算法构造决策树来发现数据中蕴涵的分类规则．如何构造精度高、规模小的决策树是决策树算法的核心内容。决策树构造可以分两步进行。第一步，决策树的生成：由训练样本集生成决策树的过程。一般情况下，训练样本数据集是根据实际需要有历史的、有一定综合程度的，用于数据分析处理的数据集。第二步，决策树的剪枝：决策树的剪枝是对上一阶段生成的决策树进行检验、校正和修下的过程，主要是用新的样本数据集（称为测试数据集）中的数据校验决策树生成过程中产生的初步规则，将那些影响预衡准确性的分枝剪除。

基于Python的决策树的代码实现，包含了信息增益的计算，数据集的划分以及使用递归算法进行决策树的构建，还有将决策树的绘制代码

本资源提供了机器学习算法中决策树-ID3算法的源码，使用python作为编程语言，代码在python3.5下能够直接运行

决策树课堂练习.html

决策树 python 可视化 graphviz

自己用Python3.6.1 写的基于信息增益的决策树，信息熵函数、信息增益函数、多数表决函数、产生决策树的函数写的都比较清楚，直接下载放在python环境中就能出结果，数据用的是周志华老师的《机器学习》的表4.3。