SHAP(SHapley Additive exPlanations)是一种游戏理论方法,用于解释任何机器学习模型的输出。 它使用博弈论中的经典Shapley值及其相关扩展将最佳信用分配与本地解释联系起来(详细信息和引文,请参见)。
安装
Shap可以从或 安装:
pip install shap
or
conda install -c conda-forge shap
TreeExplainer的树集成示例(XGBoost / LightGBM / CatBoost / scikit-learn / pyspark模型)
尽管SHAP可以解释任何机器学习模型的输出,但我们已经为树集成方法开发了一种高速精确算法(请参见)。 XGBoost , LightGBM , CatBoost , scikit-learn和pyspark树模型支持快速的C ++实现:
import xgboost
import shap
# load JS visualization code to notebook
shap . initjs ()
# train XGBoost model
X , y
1