有效数字修约「0.001是几位有效数字」

0.001是几个有效数字? 0.001为小数点后的三位数即三个有效数字。 单纯数字0.001绝对值不大,加中文表意则不同。 如0.001光年,0.001吨,又0.001微米,0.001兆。 国...

1、比对结果及问题

(1)人员技术水平方面。如未完全掌握精密压力表读数方法,导致由估读引入的误差较大;未按照要求缓慢加压,加压速率过快,压力超过测量范围上限,短时间内的超压压力冲击精密压力表弹簧管,导致测量结果异常。

(2)数据处理及不确定度评定方面。比对细则要求不确定度修约到小数点后三位,在评定的计算过程中,应注意可适当多保留几位有效数字,以避免中间运算过程的修约误差影响最终报告的不确定度结果。还有部分实验室未区分活塞式压力计和数字压力计的不确定度评定方法,活塞式压力计引入的标准不确定度分量为正态分布,是实际测量点的压力乘以准确度等级再除以置信因子;数字压力计引入的标准不确定度分量为均匀分布,是最大允许误差的半宽除以置信因子。

精密压力表比对结果及问题的处理方法

2、意见与建议

(1)建议日常检定精密压力表之前进行1~2次预压,预压压力为满量程的80%~100%,预压耐压时间建议为1min。对比对样品进行稳定性试验考核时发现,如未进行预压,样品第一循环的回程误差值明显大于第二和第三次循环,一般为(0.004~0.006)MPa。而第二和第三循环试验数据比较一致。预压后,样品再进行三个循环测量时,各组循环回程误差数据差值较小,一般为(0.002~0.004)MPa。说明经过预压,精密压力表弹性迟滞趋于稳定,可以有效减小系统误差。

(2)精密压力表属于模拟式仪表,其读数存在“1”“2”“5”间隔。日常检定时应对检定结果进行“1”“2”“5”间隔数据修约。本次比对样品的分度值为0.02MPa,估读到分度值1/10为0.002MPa,若读数平均值为0.803MPa,按“2”间隔修约应修约为0.804MPa,此时修约误差为0.001MPa,修约误差对En值影响较大,比对结果直接使用平均值,更接近各参比实验室的真实水平。

本文来自网络,不代表本站立场,转载请注明出处: http://www.fxqlsy.cn/news/73938.html
返回顶部