可解释的 AI：使用 LIME 解释分类：此演示展示了如何使用 LIME（本地可解释模型不可知的解释）[1] 解释 CNN 的分类。 LIMEによる特徴量の可视化-matlab开发

[英语] 这个demo展示了如何使用LIME（Local Interpretable Model-agnostic Explanations）[1]解释CNN的分类。这个demo是基于[1]创建的，但实现可能与官方的有点不同。这段代码突出显示对分类有贡献的区域。它可以帮助您解释和改进模型，或者，如果突出显示的区域与真实类别无关，您可以认识到分类器对您来说不是不可信的。 该演示演示了带有ResNet-18 [2]的预训练模型的示例，请根据您的网络修改此代码LIME可用于任何类型的数据，并且该示例显示了用于图像分类的代码。 [日本人] 使用称为LIME的技术[1]，当通过深度学习执行图像分类时，我们可以可视化要点。请注意，可能与官方实现略有不同。在缩略图中，经过训练的网络 (ResNet-18 [2]) 在预测为金毛猎犬时将判断基础的位置可视化。 【关键词】 分类、cnn（卷积神经网络）