本文件规定了机器学习算法在设计开发、验证测试、部署运行、维护升级、退役下线等阶段的安全
要求和证实方法,以及机器学习算法的安全评估实施。
本文件适用于对机器学习系统中的算法进行安全评估,也适用于机器学习系统开发者和运营者在算
法开发运营过程中进行自评估和改进安全措施。
机器学习算法machine learning algorithm
采用机器学习技术理论求解问题,明确界定的有限且有序的规则集合,并基于输入数据生成分类、推理、预测等的算法。
机器学习算法生命周期machine learning algorithm lifecycle
机器学习系统的算法从起始到退役的整个演进过程,包括设计开发、验证测试、部署运行、维护升
级、退役下线。
注:在机器学习算法生存周期中,某些活动可出现在不同的过程中,个别过程可重复出现。例如为了修复错误和更
新,需要反复实施开发和部署过程。
1