您当前的位置:检测资讯 > 实验管理

全面分析实验数据修约规则

嘉峪检测网        2022-02-24 11:29

1两个重要定义

 

1.数值修约rounding off for numerical values

 

指通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。

注:经数值修约后的数值称为(原数值的)修约值。

 

2.修约间隔 rounding interval

 

指修约值的最小数值单位。

注:修约间隔的数值一经确定,修约值即为该数值的整数倍。

例1:如指定修约间隔为0. 1,修约值应在。.1的整数倍中选取,相当于将数值修约到一位小数。

例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约“百”数位。

 

2确定修约间隔

 

确定修约间隔,简单来说就是修约到哪一位。

 

a. 指定修约间隔为10 -n (10的-n次方,n为正整数),或指明将数值修约到n位小数;

 

b. 指定修约间隔为1,或指明将数值修约到个数位;

 

c. 指明将数值修约到10 n 数位(10的n次方,n为正整数),或指明将数值修约到 “ 十 ” , “ 百 ” , “ 千 ” ……数位。

 

2四舍

 

拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

 

例1:将12.1498修约到一位小数,得12.1。

 

例2:将12.1498修约成两位有效位数,得12。

 

3五入

 

拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。

 

例1:将1268修约到 “ 百 ” 数位,得13×10 2 (特定时可写为1300)。

 

例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。

 

例3:将10.502修约到个数位,得11。

 

 “ 特定时 ” 的涵义系指修约间隔或有效位数明确时。

 

4刚好等于5

 

拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

 

例1:修约间隔为0.1(或10 -1 )

1.0501.0  → 0.3500.4

 

例2:修约间隔为1000

2500 → 2000

3500→ 4000

 

例3:将下列数字修约成两位有效位数

0.0375 → 0.038

32500→ 32000

 

5负数修约

 

负数修约时,先将它的绝对值规定进行修约,公众号:实验室ISO17025提醒,绝对值修约后,然后在修约值前面加上负号。

 

例1:将下列数字修约到 “ 十 ” 数位

-355  →  -320

 

例2:将下列数字修约成两位有效位数

-0.0365 →   -0.036 

 

分享到:

来源:Internet