机器学习算法安全评估规范

本文件规定了机器学习算法在设计开发、验证测试、部署运行、维护升级、退役下线等阶段的安全 要求和证实方法，以及机器学习算法的安全评估实施。 本文件适用于对机器学习系统中的算法进行安全评估，也适用于机器学习系统开发者和运营者在算 法开发运营过程中进行自评估和改进安全措施。 机器学习算法machine learning algorithm 采用机器学习技术理论求解问题，明确界定的有限且有序的规则集合，并基于输入数据生成分类、推理、预测等的算法。 机器学习算法生命周期machine learning algorithm lifecycle 机器学习系统的算法从起始到退役的整个演进过程，包括设计开发、验证测试、部署运行、维护升 级、退役下线。 注：在机器学习算法生存周期中，某些活动可出现在不同的过程中，个别过程可重复出现。例如为了修复错误和更 新，需要反复实施开发和部署过程。