Open Source library to support interpretability and explainability of data and machine learning models

AI可解释性360（v0.2.1） AI Explainability 360工具箱是一个开放源代码库，支持数据集和机器学习模型的可解释性和可解释性。 AI Explainability 360 Python软件包包括一套全面的算法，这些算法涵盖了解释的不同维度以及代理的可解释性指标。 通过逐步介绍不同消费者角色的示例用例，对概念和功能进行了简要介绍。 提供了更深入的，面向数据科学家的介绍。 完整的API也可用。 没有一种最能解释问题的方法。 有很多解释方法：数据与模型，直接可解释与事后解释，本地与全局解释等，因此弄清楚哪种算法最适合给定用例可能会造成混淆。 为了帮助您，我们创建了一些和

资本 使用Captum探索PyTorch模型的可解释性 Captum可帮助ML研究人员更轻松地实现可与PyTorch模型进行交互的可解释性算法。对于模型开发人员而言，Captum可用于通过识别有助于模型输出的不同特征来改进模型和对模型进行故障排除，从而设计出更好的模型并进行故障排除意外的模型输出。（ ） 在这里，我们将解释Resnet模型对图像的预测，并使用归因技术（例如Captum提供的“集成梯度”和“遮挡”）来比较结果。 方案1-通过PyTorch模型进行正确的预测 在这里，输入图像是企鹅，模型预测是预期的“企鹅王”。 归因输出：综合梯度-

在A Unified Approach to Interpreting ModelPredictions论文中的第三个分析模型评估标准：SHAP分析Mnist数据集遮掩实验复现代码