理论教育 数值修约规则:规范科学计算的标准

数值修约规则:规范科学计算的标准

时间:2023-06-17 理论教育 版权反馈
【摘要】:例如将12.1498修约到个数位,得12;将12.1498修约到一位小数,得12.1。例如修约间隔为0.1时,拟修约数值1.050修约为10×10-1。拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次连续修约。表1-11按0.5单位修约到个位数示例0.2单位修约0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。

数值修约规则:规范科学计算的标准

1.确定修约间隔

1)指定修约间隔为10-nn为正整数),或指明将数值修约到n位小数。

2)指定修约间隔为1,或指明将数值修约到“个”数位。

3)指定修约间隔为10nn为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”等数位。

2.进舍规则

1)拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。例如将12.1498修约到个数位,得12;将12.1498修约到一位小数,得12.1。

2)拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。例如将1268修约到“百”数位,得13×102(特定场合可写为1300)。

3)拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。例如将10.5002修约到个数位,得11。

4)拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。例如修约间隔为0.1时,拟修约数值1.050修约为10×10-1(特定场合可写成1.0)。

5)负数修约时,先将它的绝对值按1)~4)的规定进行修约,然后在所得值前面加上负号。例如将-0.0365修约到三位小数为-36×10-3(特定场合可写为-0.036)。

6)不得多次连续修约。拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次连续修约。例如修约97.46,修约间隔为1。正确的做法:97.46→97;不正确的做法:97.46→97.5→98。

3.修约程序

在具体实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。(www.daowen.com)

1)报出数值最右的非零数字为5时,应在数值右上角加“+”或加“-”或不加符号,分别表明已进行过舍、进或未舍未进。例如16.50+表示实际值大于16.50,经修约舍弃为16.50;16.50-表示实际值小于16.50,经修约进一为16.50。

2)如对报出值需进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有“-”者舍去。数字修约到个数位示例如表1-10所示。

表1-10 数字修约到个数位示例

978-7-111-32306-8-Chapter01-39.jpg

4.0.5单位修约与0.2单位修约

(1)0.5单位修约(半个单位修约) 0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。0.5单位修约方法如下:将拟修约数值X乘以2,按指定修约间隔对2X进行修约,所得数值(小于2X修约值)再除以2。按0.5单位修约到个位数示例如表1-11所示。

表1-11 按0.5单位修约到个位数示例

978-7-111-32306-8-Chapter01-40.jpg

(2)0.2单位修约 0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。0.2单位修约方法如下:将拟修约数值X乘以5,按指定修约间隔对5X进行修约,所得数值(5X修约值)再除以5。按0.2单位修约到百位数示例如表1-12所示。

表1-12 按0.2单位修约到百位数示例

978-7-111-32306-8-Chapter01-41.jpg

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈