您当前的位置:检测资讯 > 实验管理
嘉峪检测网 2022-06-06 21:35
一、两个重要定义
1.数值修约rounding off for numerical values
指通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
注:经数值修约后的数值称为(原数值的)修约值。
2.修约间隔 rounding interval
指修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0. 1,修约值应在。.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约“百”数位。
二、确定修约间隔
确定修约间隔,简单来说就是修约到哪一位。
a. 指定修约间隔为10 -n (10的-n次方,n为正整数),或指明将数值修约到n位小数;
b. 指定修约间隔为1,或指明将数值修约到个数位;
c. 指明将数值修约到10 n 数位(10的n次方,n为正整数),或指明将数值修约到 “ 十 ” , “ 百 ” , “ 千 ” ……数位。
三、四舍
拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例1:将12.1498修约到一位小数,得12.1。
例2:将12.1498修约成两位有效位数,得12。
四、六入
拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。
例1:将1268修约到 “ 百 ” 数位,得13×10 2 (特定时可写为1300)。
例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。
例3:将10.502修约到个数位,得11。
“ 特定时 ” 的涵义系指修约间隔或有效位数明确时。
五、刚好等于5
拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。
例1:修约间隔为0.1(或10 -1 )
1.150 → 1.2
例2:修约间隔为1000
2500 → 2000
3500→ 4000
例3:将下列数字修约成两位有效位数
0.0375 → 0.038
32500→ 32000
六、负数修约
负数修约时,先将它的绝对值规定进行修约,绝对值修约后,然后在修约值前面加上负号。
例1:将下列数字修约到 “ 十 ” 数位
-355 → -360
例2:将下列数字修约成两位有效位数
-0.0365 → -0.036
来源:实验室仪器分析