当前位置:
首页 > 建筑培训/工程考试培训/工程师职称评审 > 实验员培训 > 实验员培训培训资料

【文档】试验员《公共基础》知识点:数值运算规则3

在所有计算式中,常数π、e的数值和因子√2等有效数字位数,可认为无限制,需要几位就几位。

  表示精度时,如量测某一试件面积,得其有效面积A=0.0501502m2,而其量测的极限误差δmin=0.000005m2。所以量测结果应当表示为A=(0.050150±0.000005)m2。误差的有效数字为一位,即5,所以表示精度一般取一位有效数字已足够,最多取两位有效数字。

温馨的提示:
本文档信息《【文档】试验员《公共基础》知识点:数值运算规则3》由报名在线网热心网友发布,本文档责任编辑为报名在线编辑陈老师,分类为实验员考试培训资料文档,发布时间为2022/10/25 14:51:08,有问题请联系发布者。
关于我们 | 招生合作 | 课程推广 | 招聘信息 | 免责声明 | 电脑版
Copyright (c) 2006-2056 报名在线网站版权所有 All Rights Reserved
法律顾问:广州张律师 粤ICP备14004790号-3