机器学习模型可解释性方法、应用与安全研究综述.pdf

基于模糊聚类和遗传算法的具备解释性和精确性的模糊分类系统设计.pdf

随着机器学习模型越来越多地用于在医疗保健和刑事司法等高风险环境中帮助决策者，确保决策者(最终用户)正确理解并因此信任这些模型的功能是很重要的。

可解释性背景 模型解释方法 可解释性实践 可解释性展望

我们对数据科学家进行了背景调查(N=11)和调查(N=197)，以观察他们如何使用可解释性工具来发现在构建和评估ML模型时出现的常见问题。我们的结果表明，数据科学家过度信任和滥用解释工具。此外，很少有参与者能够准确地描述这些工具的可视化输出。我们为数据科学家的可解释工具心智模型强调定性主题。我们总结了对研究人员和工具设计者的启示，并将我们的发现置于社会科学文献的背景中。

诗歌在中国是一个极为重要且历史悠久的文学体裁。纵横千年的时间跨度、数量巨大的诗人群体、卷帙浩繁的诗歌文本都使得在传统的文本阅读方式下，中国诗歌的宏观把握变得极其不易。因此，随着计算机算力与计算模型的发展，越来越多的研究者将目光聚焦到了使用计算机对诗歌进行文本分析的研究领域，已有研究者对中国古诗进行了统计建模与宏观分析$^{[1]}$，但所用文本语料多为《全唐诗》《全宋词》等，以《诗经》为语料的文本分析研究，未之有也。因此需要有人在这个方面进行一些探索，本文便是一次尝试， 试图从另一个视角出发，更高效地处理《诗经》文本，并提供文本分析视角下对《诗经》的宏观刻画、描述与阐释。 本文从字频、词频、文本长度、文本方差、情感分析、提取主题词等各个维度，对《诗经》进行了以下文本分析: 首先从单字的角度，对诗经进行了字数、字频、各句长度方差等统计。 经过效果对比，选用北京大学的分词工具Pkuseg，对《诗经》进行分词处理。 在分词基础上统计词频且生成词云。 通过文本长度，文本方差来寻找风雅颂三部分之间的差异。 通过对《诗经》中篇目的情感分析，绘制出风雅颂各部分的情感变化曲线。 提取出文本中的主题词，并以此为基础构建出每篇作品的文本向量。 选定文本长度，文本方差，文本向量作为作品的三个特征，共同组成一个样本来表达一篇作品。 抽取样本，通过计算距离的方式对《诗经》中风雅颂三部分进行聚类，绘制出表达聚类效果的轮廓系数曲线。 以束皙的六首《补亡诗》与陶渊明的四首《时运》为例，计算二者作品与《诗经》的相似程度。

在A Unified Approach to Interpreting ModelPredictions论文中的第三个分析模型评估标准：SHAP分析Mnist数据集遮掩实验复现代码

机器学习模型和数据驱动系统正越来越多地用于帮助在金融服务、医疗保健、教育和人力资源等领域做出决策。机器学习应用程序提供了诸如提高准确性、提高生产率和节约成本等好处。这一趋势是多种因素共同作用的结果，最显著的是无处不在的连通性、使用云计算收集、聚合和处理大量细粒度数据的能力，以及对能够分析这些数据的日益复杂的机器学习模型的更好访问。

AI模型可解释性是当前非常火爆的领域，本资料是AAAI 2020 tutorial的PPT，内容非常丰富，值得学习

近年来,机器学习发展迅速,尤其是深度学习在图像、声音、自然语言处理等领域取得卓越成效．机器学习算法的表示能力大幅度提高,但是伴随着模型复杂度的增加,机器学习算法的可解释性越差,至今,机器学习的可解释性依旧是个难题．