手写数字数据集在博客后留言，私发（免积分）！！博客有原理说明：https://blog.csdn.net/dragon_18/article/details/86381866

18大数据挖掘的经典算法以及代码实现，涉及到了决策分类，聚类，链接挖掘，关联挖掘，模式挖掘等等方面,后面都是相应算法。

决策树 ID3

汽车有6个属性，每个属性都有几种类别，根据这6个属性来判断汽车的性价比Classvalue如何， ClassValues有以下几种情况unacc,acc, good,vgood buying（ vhigh,high,med,low） maint（vhigh,high,med,low） doors（ 2,3,4,5more） persons（2,4,more） lug_boot（ small ,med,big） safety（ low,med,high） ClassValues（ unacc,acc, good,vgood） 此例子的决策树算法，通过给定数据生成决策树，计算决策树的正确率。

Stroke_Prediction_6ML_models 该项目使用六个机器学习模型（XGBoost，随机森林分类器，支持向量机，逻辑回归，单决策树分类器和TabNet）进行笔画预测。 为此，我使用了Kaggle的“ healthcare-dataset-stroke-data”。 为了确定哪种模型最适合进行笔画预测，我绘制了每种模型的曲线下面积（AUC）。 AUC越高，模型越好

汽车有6个属性，每个属性都有几种类别，根据这6个属性来判断汽车的性价比Classvalue如何， ClassValues有以下几种情况unacc,acc, good,vgood buying（ vhigh,high,med,low） maint（vhigh,high,med,low） doors（ 2,3,4,5more） persons（2,4,more） lug_boot（ small ,med,big） safety（ low,med,high） ClassValues（ unacc,acc, good,vgood） 此例子的决策树算法，通过给定数据生成决策

在Python3环境下使用MNIST数据集进行决策树算法的训练，对《统计学习》中第五章内容进行复现性练习。

C5.0是决策树模型中的算法，79年由J R Quinlan发展，并提出了ID3算法，主要针对离散型属性数据，其后又不断的改进，形成C4.5，它在ID3基础上增加了队连续属性的离散化。 C5.0是C4.5应用于大数据集上的分类算法，主要在执行效率和内存使用方面进行了改进。 C4.5算法是ID3算法的修订版，采用GainRatio来加以改进方法，选取有最大GainRatio的分割变量作为准则，避免ID3算法过度配适的问题。

python决策树案例源码

波士顿房价机器学习作业python编码，策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。 决策树方法最早产生于上世纪60年代，到70年代末。由J Ross Quinlan提出了ID3算法，此算法的目的在于减少树的深度。但是忽略了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改进，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进，既适合于分类问题，又适合于回归问题。 决策树算法构造决策树来发现数据中蕴涵的分类规则．如何构造精度高、规模小的决策树是决策树算法的核心内容。决策树构造可以分两步进行。第一步，决策树的生成：由训练样本集生成决策树的过程。一般情况下，训练样本数据集是根据实际需要有历史的、有一定综合程度的，用于数据分析处理的数据集。第二步，决策树的剪枝：决策树的剪枝是对上一阶段生成的决策树进行检验、校正和修下的过程，主要是用新的样本数据集（称为测试数据集）中的数据校验决策树生成过程中产生的初步规则，将那些影响预衡准确性的分枝剪除。