完整英文版 ASTM E29-13(R2019) Standard Practice for Using Significant Digits in Test Data to Determine Conformance with Specifications(使用测试数据中的有效数字来确定是否符合规范的标准实践)。本标准实践旨在帮助各个技术委员会使用统一的方法来指示在规范限制中被视为重要的位数,例如,规定的最大值和规定的最小值。 其目的是概述有助于澄清规范限制的预期含义的方法,在确定与规范的一致性时,将观察值或计算的测试结果与这些限制进行比较。
2022-02-07 13:01:51 492KB ASTM E29-13 有效数字 测试数据
有效数字与相对误差限的关系: 定理1: ,若 有n位有效 数字,则其相对误差限为 反之,若 的相对误差限 则 至少具有n位有效数字
2022-01-12 10:56:08 699KB 中科院讲义
1
基于51单片机的超强科学计算器,用LCD1602显示, 键盘6X6共36个键,可以实现一般科学计算器的大部分功能,具体指标如下: 1、数字可处理10e-38~10e38 2、7位有效数字 3、精确到小数后六位 4、操作出错提醒 5、用户可很方便的自行DIY增加功能
2021-11-10 11:17:52 83KB at89s52 超强功能 科学计算器
1
完整英文版 ASTM E29 - 13(R2019) Using Significant Digits in Test Data to Determine Conformance with Specifications (使用测试数据中的有效数字来确定是否符合规范)。这种做法旨在帮助各个技术委员会使用统一的方法来指示在规格限制中被认为是重要的位数,例如,规定的最大值和规定的最小值。 其目的是概述有助于澄清规范限值的预期含义的方法,在确定与规范的一致性时,将观察值或计算测试结果与这些方法进行比较。
2021-07-09 09:04:23 511KB ASTM E29 测试数据 有效数字
很简单的一小段代码,保存两位有效数字,欢迎指正。。
2021-03-31 11:11:48 2KB 两位有效数字
1
刚学过数值分析,题库中有大量有四舍五入得到的近似数,求有效数字个数、绝对误差限、相对误差限等。作为一名软件工程专业学生,感觉还是做出一个程序来替我完成比较好,所以就做了这个,累计用来两个小时左右,仓促之下肯定哟不足之处,还望指出。虽然现在不太缺少积分,但是作为自己做出来的,还是不希望像搜集到用来共享的那样定为0分,而1分和0分对于上传者来说是一样的,却不利于下载者,所以定为2分。
2019-12-21 19:56:57 141KB 相对误差限 绝对误差限
1