shap：一种游戏理论方法来解释任何机器学习模型的输出

SHAP（SHapley Additive exPlanations）是一种游戏理论方法，用于解释任何机器学习模型的输出。 它使用博弈论中的经典Shapley值及其相关扩展将最佳信用分配与本地解释联系起来（详细信息和引文，请参见）。 安装 Shap可以从或 安装： pip install shap or conda install -c conda-forge shap TreeExplainer的树集成示例（XGBoost / LightGBM / CatBoost / scikit-learn / pyspark模型） 尽管SHAP可以解释任何机器学习模型的输出，但我们已经为树集成方法开发了一种高速精确算法（请参见）。 XGBoost ， LightGBM ， CatBoost ， scikit-learn和pyspark树模型支持快速的C ++实现： import xgboost import shap # load JS visualization code to notebook shap . initjs () # train XGBoost model X , y