欢迎大家下载catboost源码文件，原始文件在Github上，Github下载时间很长，所以在这里分享出来供大家下载。

资源来自pypi官网。 资源全名：catboost_dev-0.13.1.2276-cp35-none-win_amd64.whl

近几十年来，人们生活水平显著提高，但是健康意识依旧薄弱，不良的生活习惯和饮食习惯导致糖尿病发病人数急剧增加，由糖尿病导致的各种并发症严重威胁了人们的健康.由于糖尿病具有知晓率低的特点，很多糖尿病患者未能及时发现病症，导致出现并发症.本文通过分析糖尿病的特点，针对医疗数据样本量小、容易缺失的特点，选择IV值分析进行特征选择、使用一种新型的Boosting算法CatBoost进行糖尿病患者预测，取得了显著的预测效果.

本文主要参考Battle of the Boosting Algos: LGB, XGB, Catboost，结果与原文有出入。 文章目录1. 对比标准1.1 数据集1.2 规则1.3 版本2. 结果2.1 准确率2.2 训练时间和预测时间2.3 可解释性2.3.1 特征重要性2.3.2 SHAP值2.3.3 可视化二叉树3. 总结4. 代码参考文献 1. 对比标准 1.1 数据集 分类：Fashion MNIST（60000条数据784个特征） 回归：NYC Taxi fares（60000条数据7个特征） 大规模数据集：NYC Taxi fares（2百万条数据7个特征） PS：本文只进行

清华镜像源安装 NGboost XGboost Catboost pip install catboost -i https://pypi.tuna.tsinghua.edu.cn/simple pip install ngboost -i https://pypi.tuna.tsinghua.edu.cn/simple pip install xgboost -i https://pypi.tuna.tsinghua.edu.cn/simple 数据比赛常用预测模型：LGB、XGB与ANN LGB lightgbm：由于现在的比赛数据越来越大，想要获得一个比较高的预测精度，同时又要减少内存占

sudo pip3 install catboost-0.16.5-cp36-none-manylinux1_x86_64.whl

GBDT实现：XGBoost、LightGBM、Catboost对比 参考https://www.kaggle.com/lavanyashukla01/battle-of-the-boosting-algos-lgb-xgb-catboost

CatBoostLSS-CatBoost扩展到概率预测 我们提出了一个的新框架，该框架可预测单变量响应变量的整个条件分布。特别是， CatBoostLSS可以对参数分布的所有矩进行建模，即均值，位置，比例和形状（LSS），而不仅仅是条件均值。从广泛的连续分布，离散分布和混合离散连续分布中进行选择，对整个条件分布进行建模和预测可以大大增强CatBoost的灵活性，因为它可以使您对数据生成过程有更多的了解，并可以创建概率预测从中可以得出感兴趣的预测间隔和分位数。在下文中，我们简要介绍了CatBoostLSS的功能。 例子 模拟 我们从模拟的数据集开始，该数据集表现出异方差性，而其兴趣在于预测5％和95％的分位数。有关数据生成过程的详细信息，请参见。红色的点表示位于5％和95％分位数之外的点，由黑色虚线表示。 让我们将CatBoostLSS拟合到数据中。通常，语法类似于原始的CatBoost实现

灰狼优化算法（Grey Wolf Optimizer，GWO）由澳大利亚格里菲斯大学学者 Mirjalili 等人于2014年提出来的一种群智能优化算法。该算法受到了灰狼捕食猎物活动的启发而开发的一种优化搜索方法，它具有较强的收敛性能、参数少、易实现等特点。近年来受到了学者的广泛关注，它己被成功地应用到了车间调度、参数优化、图像分类等领域中。用GWO优化CatBoost的参数来进行物联网入侵检测分类。

机器学习算法XGboost、LightGBM、Catboost的代码架构，满足基本的数据分析，回归、二分类、多分类。