决策树——ID3算法1.信息熵2.信息增益3.西瓜数据集来构造决策树
用信息增益大小作为决策树属性选择划分的依据是ID3算法构造决策树的核心思想
1.信息熵
在讲信息增益之前就不得不提到信息熵，信息熵定义为：
其中：
D —— 样本集合
Pk —— 第k类样本所占比例（k取1,2,…,|y|）
它是度量样本集合纯度最常用的指标，通常En(t)越小样本集合纯度越高。
2.信息增益
信息增益定义为：
其中：
a —— 样本中的一个属性
D —— 样本集合
Dv ——实际属性值v对应的样本集合
V —— 属性a对应的实际属性值个数
v —— 某一个实际属性值计数
Ent(D) —— D的信息熵
2023-04-18 12:01:37
198KB
1
python，西瓜数据集，分别用ID3、C4.5、CART决策树进行西瓜好坏的分类决策，画出树的图像，机器学习
2022-12-15 21:24:15
26KB
1
基于决策树 ID3 算法模式识别系统的设计与实现代码大全.pdf基于决策树 ID3 算法模式识别系统的设计与实现代码大全.pdf
2022-10-19 17:05:14
1.04MB
1
基于决策树 ID3 算法模式识别系统的设计与实现代码大全.pdf基于决策树 ID3 算法模式识别系统的设计与实现代码大全.pdf
2022-10-19 17:05:13
328KB
1
Decision_tree-python
决策树分类（ID3，C4.5，CART）
三种算法的区别如下：
(1) ID3算法以信息增益为准则来进行选择划分属性，选择信息增益最大的；
(2) C4.5算法先从候选划分属性中找出信息增益高于平均水平的属性，再从中选择增益率最高的；
(3) CART算法使用“基尼指数”来选择划分属性，选择基尼值最小的属性作为划分属性.
2022-07-09 13:05:03
1.36MB