分析测试百科网

搜索

喜欢作者

微信支付微信支付
×

分析数据的处理——有效数字及其运算规则

2018.3.22
头像

chloe

随遇而安

1. 有效数字的意义和位数

(1)有效数字:所有准确数字和一位可疑数字(实际能测到的数字)

(2)有效位数及数据中的“ 0 ”

      1.0005,                     五位有效数字

      0.5000,      31.05%         四位有效数字

      0.0540,      1.86            三位有效数字

      0.0054,      0.40%          两位有效数字

      0.5,         0.002%         一位有效数字

2. 有效数字的表达及运算规则

(1)记录一个测定值时,只保留一位可疑数据,

(2)整理数据和运算中弃取多余数字时,采用“数字修约规则”

四舍六入五考虑

五后非零则进一

五后皆零视奇偶

五前为奇则进一

五前为偶则舍弃

不许连续修约

(3)加减法:以小数点后位数最少的数据的位数为准,即取决于绝对误差最大的数据位数;

(4)乘除法:由有效数字位数最少者为准,即取决于相对误差最大的数据位数;

(5)对  数:对数的有效数字只计小数点后的数字,即有效数字位数与真数位数一致;

(6)常  数:常数的有效数字可取无限多位;

(7)第一位有效数字等于或大于 8 时,其有效数字位数可多算一位;

(8)在计算过程中,可暂时多保留一位有效数字;

(9)误差或偏差取 1~2 位有效数字即可。


互联网
仪器推荐
文章推荐