分析测试百科网

搜索

喜欢作者

微信支付微信支付
×

检测报告如何进行数值修约?

2019.10.10
头像

王辉

致力于为分析测试行业奉献终身

  实验过程,产生实验数据、进行数值运算是必不可少的,有效数字的保留和运算规则就成了每一个实验人员必须掌握的知识,那么,什么是有效数字?有效数字怎样运算?如何保留?小伙伴们是不是有疑问呢?

  

  那么我们今天就一起来看看!

  有效数字

  为了取得准确的分析结果,不仅要准确测量,而且还要正确记录与计算。所谓正确记录是指记录数字的位数。因为数字的位数不仅表示数字的大小,也反映测量的准确程度。所谓有效数字,就是实际能测得的数字。

  

  有效数字保留的位数,应根据分析方法与仪器的准确度来决定,一般使测得的数值中只有最后一位是可疑的。

  例如在分析天平上称取试样0.5000g,这不仅表明试样的质量0.5000g,还表明称量的误差在±0.0002g(天平误差)以内。如将其质量记录成0.50g,则表明该试样是在台称上称量的,其称量误差为0.02g,故记录数据的位数不能任意增加或减少。

  如在上例中,在分析天平上,测得称量瓶的重量为10.4320g,这个记录说明有6位有效数字,最后一位是可疑的。因为某些分析天平只能称准到0.0002g,即称量瓶的实际重量应为10.4320±0.0002g,无论计量仪器如何精密,其最后一位数总是估计出来的。

  因此所谓有效数字就是保留末一位不准确数字,其余数字均为准确数字。同时从上面的例子也可以看出有效数字是和仪器的准确程度有关,即有效数字不仅表明数量的大小而且也反映测量的准确度.

  有效数字中“0”的意义

  

  "0"在有效数字中有两种意义:

  一种是作为数字定值,另一种是有效数字。

  例如在分析天平上称量物质,得到如下质量:

 

  以上数据中“0”所起的作用是不同的。在10.1430中两个“0”都是有效数字,所以它有6位有效数字。

  在2.1045,中的“0”也是有效数字,所以它有5位有效数字。

  在0.2104中,小数前面的“0”是定值用的,不是有效数字,而在数据中的“0”是有效数字,所以它有4位有效数字。

  在0.0120中,“1”前面的两个“0”都是定值用的,而在末尾的“0”是有效数字,所以它有3位有效数字。

  

  综上所述,数字中间的“0”和末尾的“0”都是有效数字,而数字前面所有的“0”只起定值作用。以“0”结尾的正整数,有效数字的位数不确定。例如4500这个数,就不会确定是几位有效数字,可能为2位或3位,也可能是4位。

  遇到这种情况,应根据实际有效数字书写成:

  4.5×103 2位有效数字

  4.50×103 3位有效数字

  4.500×103 4位有效数字

  因此很大或很小的数,常用10的乘方表示。当有效数字确定后,在书写时一般只保留一位可疑数字,多余数字按数字修约规则处理。

  对于滴定管、移液管和吸量管,它们都能准确测量溶液体积到0.01mL。所以当用50mL滴定管测定溶液体积时,如测量体积大于10mL小于50mL时,应记录为4位有效数字。

  例如写成24.22;如测定体积小于10mL,应记录3位有效数字,例如写成8.13mL。当用25mL移液管移取溶液时,应记录为25.00mL;

  当用5mL吸取关系取溶液时,应记录为5.00mL。

  当用250mL容量瓶配制溶液时,所配溶液体积应即为250.0mL。

  当用50mL容量瓶配制溶液时,应记录为50.00mL。

  总而言之,测量结果所记录的数字,应与所用仪器测量的准确度相适应。

  数字修约规则

  我国科学技术委员会正式颁布的《数字修约规则》,通常称为“四舍六入五成双”法则。四舍六入五考虑,即当尾数≤4时舍去,尾数为6时进位。当尾数为5时,则应是末位数是奇数还是偶数,5前为偶数应将5舍去,5前为奇数应将5进位。

  这一法则的具体运用如下:

  a. 将28.175和28.165处理成4位有效数字,则分别为28.18和28.16。

  b. 若被舍弃的第一位数字大于5,则其前一位数字加1,例如28.2645处理成3为有效数字时,其被舍去的第一位数字为6,大于5,则有效数字应为28.3。

  c. 若被舍弃的第一位数字等于5,而其后数字全部为零时,则是被保留末位数字为奇数或偶数(零视为偶),而定进或舍,末位数是奇数时进1,末位数为偶数时不进1,例如28.350、28.250、28.050处理成3位有效数字时,分别为28.4、28.2、28.0。

  d. 若被舍弃的第一位数字为5,而其后的数字并非全部为零时,则进1,例如28.2501,只取3位有效数字时,成为28.3。

  e. 若被舍弃的数字包括几位数字时,不得对该数字进行连续修约,而应根据以上各条作一次处理。如2.154546,只取3位有效数字时,应为2.15,二不得按下法连续修约为2.16:

  2.154546→2.15455→2.1546→2.155→2.16

  有效数字运算规则

  前面曾根据仪器的准确度介绍了有效数字的意义和记录原则,在分析计算中,有效数字的保留更为重要,下面仅就加减法和乘除法的运算规则加以讨论。

  a. 加减法:在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准,例如:

  0.0121+25.64+1.05782=?

  正确计算 不正确计算

  0.01 0.0121

  25.64 25.64

  + 1.06 + 1.05782

  ——————— ———————

  26.71 26.70992

  上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后面第二位。

  b. 乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对误差最大的为准。例如:

  0.012×25.64×1.05782=?

  

  以上3个数的乘积应为:

  0.0121×25.6×1.01=0.328

  

  在这个计算中3个数的相对误差分别为:

  E%=(±0.0001)/0.0121×100=±8

  E%=(±0.01)/25.64×100=±0.04

  E%=(±0.00001)/1.05782×100=±0.0009

  显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可。

  c. 自然数,在分析化学中,有时会遇到一些倍数和分数的关系,如:

  H3PO4的相对分子量/3=98.00/3=32.67;

  

  水的相对分子量=2×1.008+16.00=18.02

  在这里分母“3”和“2×1.008”中的“2”都还能看作是一位有效数字。因为它们是非测量所得到的数,是自然数,其有效数字位数可视为无限的。

  在常见的常量分析中,一般是保留四位有效数字。但在水质分析中,有时只要求保留2位或3位有效数字,应视具体要求而定。


互联网
仪器推荐
文章推荐