您当前的位置:检测资讯 > 实验管理

有效数字位数的确定及修约规则

嘉峪检测网        2024-06-04 17:33

在实验记录及数据分析中为了得到准确的测量结果,不仅要准确地测定各种数据,还需要对数据进行修约

 

今天就跟小编来一起学习下如何确定有效数字以及进行修约吧。

 

有效数字的意义及保留位数

 

有效数字是工作中所能测量到的有实际意义的数字,不仅反映测定数据的多少,也反映测定时所用仪器的准确度。

 

我们把直接读取的数字叫“准确数字”,把估读的数字叫“存疑数字”,把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。除最后一位为估读数字外,其他的数字都能从仪器上准确读取[1]。

 

因此,有效数字保留的位数,应当根据分析方法和所用仪器的精确度来决定。

 

由此可知,有效数字是由“准确数字”和“估读数字”两部分组成的。

 

如果数据中有“0”,要分析具体情况再确定其有效数字的位数。

 

第一个非零数字前面的零不是有效数字,只起定位作用;如果将该数字转换为指数的形式能将零省略,这些零就不是有效数字[2]。

 

在实验记录及数据分析中,有效数字的位数往往由仪表的精度决定,通常记录时以仪表最小刻度再另估读保留一位有效数字。

 

π、e等常数有效位数可以认为没有限制,可根据实际需要来确定有效位数。

 

pH、pM、lgK等对数数值,其有效数字的位数取决于小数点后的位数,小数点前的数字只说明该数的方次,如:

 

pH=12.68,即[H+]=2.1×10-13 mol/L,其有效数字是两位而不是四位[2]。

 

有效位数的修约规则

 

数据分析处理时,须根据各步骤的测量精度及有效数字的计算规则,合理修约并保留有效数字的位数。当确定有效数字的位数后,其余数字(尾数)一并舍去。

 

数字修约时,只允许对原测量值一次性修约到所需的位数,不能分次修约。

 

例:将“2.0154546”修约,并保留4位有效数字。

 

不能按照 2.0154546 → 2.015455 → 2.01546 → 2.0155 → 2.016 分次修约。

应一次性修约:2.0154546 → 2.015。

 

参考文献:

 

[1] 孙又宁.有效数字在农业化学分析中的意义和应用[J].中国土壤与肥料,2008,(05):1-5.

 

[2] 高向阳. 现代食品分析[M]. 北京,科学出版社,2012.5,21-44.

 

[3] GB/T8170-2008,数值修约规则与极限数值的表示和判定[S].

分享到:

来源:SMQ食品检测