CLS算法，依据其中选择分类属性的策略不同，可以得到不同的决策树算法。比较常用的决策树有D3，C4.5和CART三种和实现，其中CART一般优于其他决策树，并且可用于回归任务。下面我们将编写代码实现这三种决策树算法。
2022-11-05 09:07:45
895KB
1
上一篇博客主要介绍了决策树的原理，这篇主要介绍他的实现，代码环境python 3.4，实现的是ID3算法，首先为了后面matplotlib的绘图方便，我把原来的中文数据集变成了英文。
原始数据集：
变化后的数据集在程序代码中体现，这就不截图了
构建决策树的代码如下：
#coding :utf-8
'''
2017.6.25 author :Erin
function: decesion tree ID3
'''
import numpy as np
import pandas as pd
from math import log
import operator
def load_
2022-11-04 16:03:21
94KB
1
从零开始的决策树
在本项目中，我将从头开始实现决策树学习算法（仅使用numpy）。
我将使用一个数据集，其中包括从Audubon社会北美蘑菇现场指南（1981）中提取的蘑菇记录。 该数据库描述了姬松茸和Lepiota家族不同种类的镀金蘑菇的样品。 在提供的文件（冬菇数据.txt）的一行中，每个样本均由23个字符的字符串描述。 每个这样的字符串描述每个样本的22个属性的值（如下所述），最后一个字符对应于蘑菇正确分类为可食用（e）或有毒（p）蘑菇。
例如，数据集中的前两个样本是有毒的，然后是可食用的物种，如下所示：
xsntpfcnkeesswwpwopks向上
xsytafcbkecsswwpwopnn ge
表1的末尾给出了22个属性变量及其值。 （并且也列在文件（properties.txt）中，以供参考）。
程序开始时，它应要求用户输入三个信息：
训练集大小：该值应该是25
2022-11-02 19:20:06
38KB
1
带着读者通过Python语言手写简化版实现决策树绘制。
适合人群：零基础或者具备一定编程基础，对机器学习有一定的了解。
可以学到机器学习决策树的原理，如何利用cart决策树实现决策树绘制，完成分类效果。
2022-11-02 19:08:22
8KB
1
传统数据挖掘方法不能清晰描述医学图像的特征信息和高分辨属性。为解决上述问题，提出一种基于决策树的海量医学图像数据挖掘方法。分析图像的简化属性分裂特点，并通过引入矫正函数的方式定义决策树分类堆，完成海量医学图像挖掘决策树分类规则的确定。在此基础上，利用医学图像目标识别和灰度直方特征提取结果，确定局部数据的挖掘引子，完成基于决策树的海量医学图像数据挖掘方法研究。模拟方法运行环境设计对比实验结果表明，与传统数据挖掘方法相比，应用基于决策树的海量医学图像数据挖掘方法后，医学图像特征信息、高分辨属性的描述清晰程度均得到20%左右的提升。
2022-10-26 20:57:28
1.4MB
1
决策树分类作为一种基于空间数据挖掘的知识发现的监督分类方法，它通过决策学习过程得到分类规则并对遥感影像进行分类，突破了以往分类树或分类规则的构建要利用分类者的生态学和遥感先验知识的确定。我们以C5.0算法为基础，通过算法改进，创建了适用于遥感影像分类的决策树算法GLC树，并依托C#+ArcEngine平台设计实现了GLC_Info v1.1，现在增加了多线程，提高了处理效率，更新至1.2版本。该软件以GLC分类器为核心，不仅提供了基于像元的遥感影像分类功能，而且可以在ENVI或者eCognition分割结果的基础上实现遥感影像面向对象自动分类。和以往分类中手动建立规则集相比，该软件通过决策树学习的方式建立规则集，不仅提高了效率，而且大大降低了对操作员的要求。另外该软件还提供了一些辅助分类以及统计分析功能，比如任意图形的加权Voronoi图。
同时笔者兼职提供AE定制开发，各类数据挖掘算法实现，如有需要，请联系QQ406803725
2022-10-26 10:00:57
10.39MB
1