QINMS.com >> 首页 >>  >> 正文

数值修约规则

一、术语

1、修约间隔:确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值应为该数值的整数倍。

2、有效位数:对以若干个零结尾的整数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的个数;对其它十进位数,从非零数字最左一位向右数得的位数,即为有效位数。

3、0.5单位修约:指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。

  • 例1:60.28修约到个数的0.5单位,其结果为60.5

4、 0.2单位修约:指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。

  • 例2:838修约到百位数的0.2单位,其结果为840

二、进舍规则

最基本的原则是:四舍六入五留双

1、拟舍弃数字的最左一位数字小于5时,则舍去。

2、拟舍弃数字最左一位大于5时;或是5,且后跟有并非全为零的数字时,则进1。

3、拟舍弃数字的最左一位数字为5,且右边无数字或皆为零时,若所保留的末位数为奇数则进1,为偶数则舍弃。

  • 例1、修约间隔为0.1
  • 1.050 修约为:1.0
  • 0.350 修约为: 0.4
  • 例2、修约间隔为100
  • 450 修约为:400
  • 350 修约为:400
  • 例3、将下列数字修约成3位有效数字
  • 1.325 修约为:1.32
  • 132500 修约为: 132×10^3

4、负数修约时,先将它的绝对值按上述三种规定的方式进行修约,然后在修约值前面加负号。

  • 例:将下列数字修约成2位有效数字
  • -365 修约为:-36 × 10
  • -0.0365 修约为:-0.036

三、不允许连续修约

1、修约必须按修约间隔一次完成,而不得多次连续修约。

  • 例: 修约3.4546,修约间隔为1。
  • 正确方法:3.4546→3
  • 错误方法:3.4546→3.455→3.46→3.5→4

2、有时需要先将获得数值按指定的修约位数多1位或几位报出,然后交由其它部门判定。为避免产生连续修约的错误,应按下述步骤进行。

2.1 报出数值最右的非零数字为5时,应在数值后面加“+”或“-”或不加符号,以分别表明已进行过舍、进或未舍未进。

  • 例:4.50(+)表示实际值大于4.50,经修约舍弃为4.50;4.50(-)表示实际值小于4.50,经修约进“1”成为4.50

2.2 如果判定报出值需进行修约,当拟舍弃数字的最左一位数字为5,且后面无数字或皆为零时,数值后面有“+”则进1,有“-”则舍去。其它则仍按修约规则进行修约。

  • 例:将下列数字修约到个位数后进行判定(报出值多留1位到小数点后1位)
实测值 报出值 修约值
15.4546 15.5(-)15
16.5203 16.5(+)17
17.5000 17.518

METi. 版权所有 |