原理:
决策树生成算法: 是递归地生成决策树,它往往分类精细,对训练数据集分类准确,但是对未知数据集却没有那么准确,有比较严重的过拟合问题。因此,为了简化模型的复杂度,使模型的泛化能力更强,需要对已生成的决策树进行剪枝。
集成分类算法: 集成(Ensemble)分类模型综合考量多个分类器的预测结果,从而做出决策。
随机森林分类器用相同的训练数据同时搭建多个独立的分裂模型,然后通过投票的方式,以少数服从多数的原则作出最终分类的决策。在相同的训练数据上同时搭建多棵决策树,每棵决策树会放弃固定的排序算法,随机选取特征。
梯度提升决策树按照一定的次序搭建多个分类模型。模型之间彼此存在依赖关系。后续加入
1