【摘要】:通用的数字修约规则。报告测量不确定度时按通用规则数字修约举例:uc=0.568mV,应写成uc=0.57 mV或uc=0.6 mV;uc=0.561 mV,应写成uc=0.56 mV;U=10.5nm,应写成U=10nm;U=10.5001nm,应写成U=11nm;U=11.5×10-5取两位有效数字,应写成U=12×10-5;取一位有效数字,应写成U=1×10-4;U=1 235 687μA,取一位有效数字,应写成U=1×106μA=1A。例如:uc=10.27mΩ,报告时取两位有效数字,为保险起见可取uc=11 mΩ。
(1)通用的数字修约规则。通用的修约规则为:以保留数字的末位为单位,末位后的数字大于0.5者,末位进一;末位后的数字小于0.5者,末位不变(即舍弃末位后的数字);末位后的数字恰为0.5者,使末位为偶数(即当末位为奇数时,末位进一;当末位为偶数时,末位不变)。
我们可以简捷地记成:“四舍六入,逢五取遇”。
报告测量不确定度时按通用规则数字修约举例:
uc=0.568mV,应写成uc=0.57 mV或uc=0.6 mV;uc=0.561 mV,应写成uc=0.56 mV;
U=10.5nm,应写成U=10nm;
U=10.5001nm,应写成U=11nm;
U=11.5×10-5取两位有效数字,应写成U=12×10-5;(www.daowen.com)
取一位有效数字,应写成U=1×10-4;
U=1 235 687μA,取一位有效数字,应写成U=1×106μA=1A。
修约的注意事项:不可连续修约,例如:要将7.691 499修约到四位有效数字,应一次修约到7.691若采取7.691 499→7.6 915→7.692是不对的。
(2)为了保险起见,也可将不确定度的末位后的数字全都进位而不是舍去。
例如:uc=10.27mΩ,报告时取两位有效数字,为保险起见可取uc=11 mΩ。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。
有关设备质量控制基础的文章