理论教育 大学物理实验中有效数字运算规则

大学物理实验中有效数字运算规则

时间:2023-11-19 理论教育 版权反馈
【摘要】:有效数字的正确运算关系到对实验结果的精确表达,由于运算条件不一样,运算规则也相应地有差别。例如,19.876×50.7÷π→19.88×50.7÷3.142=320.7→321,参加运算的各项以50.7位数最少,有效位数是三位,因此运算过程中可以取四位有效数字,最后结果为三位有效数字。若干个有效数字相乘除和相加减时,按照规则和按部就班地进行运算。

大学物理实验中有效数字运算规则

有效数字的正确运算关系到对实验结果的精确表达,由于运算条件不一样,运算规则也相应地有差别。

(1)若干个有效数字相加减,应以这些数字中有效数字最末一位位数最高的数为准,其他各数在运算前按“四舍六入,五凑偶”的原则保留到比该数末位数多一位,然后进行加减,其结果的末位数最后仍按“四舍六入,五凑偶”的原则取到与该有效数字末位数相同。

例如,3.14+1056.76+103-9.852→3.1+1056.8+103-9.8=1153.1→1153,参加运算的各项最后一位最靠前的是103的个位,其计算结果的最后一位就保留在个位上。

“四舍六入,五凑偶”原则中“四”是指不大于4时舍去,“六”是指不小于6时进位,“五”是根据尾数5后面的数字来定。当尾数5后面的数字均为0时,应当看尾数5的前一位,分两种情况:①5前为奇数时,就应向前进一位;②5前为偶数,则应将尾数舍去(数字0在此时应视为偶数)。当尾数为5,而尾数5后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论5后面不为0的数字在哪一位上,都应向前进一位。

例如,应用“四舍六入,五凑偶”原则将下列数据保留3位有效数字:

(2)若干个有效数字相乘除时,应以这些数字中有效数字位数最少的数为准,其他各数在运算前按“四舍六入,五凑偶”的原则保留到比该数多取一位(包括各种常数),然后再进行乘除,其结果最后仍按照“四舍六入,五凑偶”的原则取到与该有效数字位数相同。

例如,19.876×50.7÷π→19.88×50.7÷3.142=320.7→321,参加运算的各项以50.7位数最少,有效位数是三位,因此运算过程中可以取四位有效数字,最后结果为三位有效数字。

(3)若干个有效数字相乘除和相加减时,按照规则(1)和(2)按部就班地进行运算。例如,计算(www.daowen.com)

(4)函数的有效数字运算规则。

函数的有效数字运算较有效数字的加减乘除略为复杂,一般情况下要考虑如下三点:①通常函数的有效数字与自变量相同;②若自变量给出了不确定度,计算过程中可以比自变量多保留一位有效数位,再用误差传递公式计算函数的不确定度,最终由不确定度决定有效数字位数;③若自变量未给出不确定度,可以采用量具的最小分度值来表示,然后同样通过误差传递公式计算函数不确定度,再得到函数有效数字数位。

例1-6 已知x=60°13′±1′,计算y=sinx。

例1-7 已知x=63.7,计算y=lnx。

解 题中没有明确告知自变量x的误差,取最小分度,即Sx=0.1,则

也就是函数y的误差位为千分位,那么函数y的计算结果应取小数点后3位,即

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈