轮播
一文弄懂有效数字与有效数字计算规则

2021/2/16 0:24:47 分类:计量检定 
文章地址://www.e-cumulus.com/tech/3607.html

文章依据GB/T8170-2008《数值修约规则与极限数值的表示和判定》标准,对有效数字的概念、有效数字与仪器准确度关系、数值修约、有效数字表示方法和有效数字数学运算规则做深入阐述。

有效数字是指在实验测量及分析运算工作中能够测量和得到的数字,测量时,把通过直读获得的准确数字叫做可靠数字,把通过估读得到的那部分数字叫做存疑(不可靠、不确定、不准)数字,把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字,有效数字是为了体现测量值和计算结果实际达到的准确度。在记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位。如果参加计算的数据的位数取少了,就会因测量的精度不准而影响计算结果的应有精度;如果位数取多了,易使人误认为测量精度很高,且增加了不必要的计算工作量。


1、准确测量

有效数字保留的位数,应根据分析方法与仪器的准确度来决定,一般使测得的数值中只有最后一位是可疑的。例如在用精确度为0.0002g的分析天平称取试样0.5000g,这不仅表明试样的质量0.5000g,还表明称量的误差在±0.0002g以内。如将其质量记录成0.50g,则表明该试样是在台秤上称量的,共称量误差为0.02g,故记录数据的位数不能任意增加或减少。又如在分析天平上,测得秤量瓶的质量为10.4320g,这个记录说明有6位有效数字,最后一位是可疑的。即称量瓶的实际质量应为10.4320±0.0002g。无论计量仪器如何精密,其最后一位数总是估计出来的,因此所谓有效数字就是保留末一位不准确数字,其余数字均为准确数字。同时从上面的例子也可以看出有效数字是和仪器的准确程度有关,即有效数字不仅表明数量的大小而且也反映测量的准确度。

对于滴定管、移液管和吸量管,它们都能准确测量溶液体积到0.01mL、所以当用50mL滴定管测定溶液体积时,如测量体积大于10mL小于50mL时,应记录为4位有效数字,例如写成24.22mL;如测定体积小于10mL,应记录3位有效数字,例如写成8.13mL、当用25mL移液管移取溶液时,应记录为25.00mL;当用5mL吸量管取溶液时,应记录为5.00mL;当用250mL容量瓶配制溶液时,所配溶液体积应即为250.0mL;当用50mL容量瓶配制溶液时,应记录为50.00mL。


对于0-15V的电压表,其精确度为0.5V,只能做五分之一估读,估出0.1V,0.2V,0.3V,0.4V,0.5V虽然不估读,但为了使小数点后的位数对齐,不需要补零!当记录0.5V,1.0V,5.0V,10.5V,12.5V,13.0V是正确的。


对于0-0.6A的电流表,其准确度是0.02A,只能做二分估读,估出0.01A,当记录为0.02A,0.03A,0.10A(是0.02A的5倍),0.12A(是0.02A的6倍),0.20A(是0.02A的10倍),0.27A是正确的。


对于多用表的欧姆档,因刻度不均匀,是无法估读的,只能叫粗测(知道大概)!电阻箱无估读,直接计数就是,如987.67。


对于游标卡尺,精确度(主尺的最小刻度值-标尺的最小刻度值)有0.1mm、0.05mm、0.02mm三种,小数点后的位数只要和精度对齐即可,至于小数前的位数是与测量值的大小有关的。例如对精度是0.1mm的卡尺读数为0.8mm、10.6mm、12.8mm、128.9mm都对;对精度是0.05mm的卡尺读数为0.10mm、10.15mm、108.55mm 都对.对精度是0.02mm的卡尺读数为0.04mm、10.12mm、13.56mm、108.78mm、120.80mm都对。为了把0.1mm的卡尺读数和其它两种卡尺读数在小数点后对齐,根据其读数原理和有效数字的规则,可以给它们加零,即0.80mm、10.60mm、12.80mm、128.90mm,但其它两种卡尺不加零!


对于精确度为0.01mm的螺旋测微器,要估读到0.001mm,即小数点后有三位有效数字,如0.141mm、6.004mm、11.901mm、20.578mm等。


当刻度尺测量计录为8.0cm=80mm=8.0×10-2m(均为两位有效数字)时,可知刻度尺的精确度为1cm,当记录为8.00cm=80.0mm=8.00×10-2m(场为三位有效数字)时,刻度尺的精确度为1mm。由此可见,物理单位并不影响有效数字的位数。
可见:测量结果所记录的数字,应与所用仪器测量的准确度相适应。

2、修约规则

我国GB/T8170-2008《数值修约规则与极限数值的表示和判定》关于数值修约规则的原文内容如下:
3 数值修约规则
3.1 确定修约间隔
a) 指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;
b)指定修约间隔为1,或指明将数值修约到“个”数位;
c)指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”......数位。

3.2 进舍规则

3.2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例:将12.1498修约到个数位,得12;将12.1498修约到一位小数,得12.1。
3.2.2 拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。
例:将1268修约到“百”数位,得13×102(特定场合可写为1300)。
注:本标准示例中,“特定场合”系指修约间隔明确时。
3.2.3 拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。
例:将10.5002修约到个数位,得11。
3.2.4 拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。
例1:修约间隔为0.1(或10-1)
拟修约数值     修约值
1.050         10×10-1(特定场合可写成为1.0)
0.35          4×10-1(特定场合可写成为0.4)
例2:修约间隔为1000(或103)
拟修约数值     修约值
2500          2×103(特定场合可写成为2000)
3500          4×103(特定场合可写成为4000)
3.2.5 负数修约时,先将它的绝对值按3.2.1~3.2.4的规定进行修约,然后在所得值前面加上负号。
例1:将下列数字修约到“十”数位:
拟修约数值     修约值
-355          -36×10(特定场合可写为-360)
-325          -32×10(特定场合可写为-320)
例2:将下列数字修约到三位小数,即修约间隔为10-3
拟修约数值     修约值
-0.0365        -36×10-3(特定场合可写为-0.036)

3.3 不允许连续修约

3.3.1 拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按3.2规则连续修约。
例1:修约97.46,修约间隔为1。
正确的做法:97.46→97;
不正确的做法,97.46→97.5→98。
例2:修约15.4546,修约间隔为1。
正确的做法:15.4546→15;
不正确的做法:15.454 6→15.455→15.46→15.5→16。
3.3.2 在具休实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。
3.3.2.1 报出数值最右的非零数字为5时,应在数值右上角加“+”或加“-”或不加符号,分别表明已进行过舍,进或未舍未进。
例:16.50+表示实际值大于16.50,经修约舍弃为16.50;16.50-表示实际值小于16.50,经修约进一为16.50。
3.3.2.2 如对报出值需进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有“-”者舍去,其他仍按3.2的规定进行。
例1:将下列数字修约到个数位(报出值多留一位至一位小数)。
实测值         报出值            修约值
15.4546        15.5-             15
-15.4546       -15.5-            -15
16.5203        16.5+             17
-16.5203       -16.5+            -17
17.5000        17.5              18

3.4 0.5单位修约与0.2单位修约

在对数值进行修约时,若有必要,也可采用0.5单位修约或0.2单位修约。
3.4.1 0.5单位修约(半个单位修约)
0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。
0.5单位修约方法如下:将拟修约数值X乘以2,按指定修约间隔对2X依3.2的规定修约,所得数值(2X修约值)再除以2。
例:将下列数字修约到“个”数位的0.5单位修约。
拟修约数值X      2X               2X修约值               X修约值
60.25           120.50           120                    60.0
60.38           120.76           121                    60.5
60.28           120.56           121                    60.5
-60.75          -120.50          -122                   -61.0

3.4.2 0.2单位修约

0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。
0.2单位修约方法如下:将拟修约数值X乘以5,按指定修约间隔对5X依3.2的规定修约,所得数值(5X修约值)再除以5。
例:将下列数字修约到“百”数位的0.2单位修约。
拟修约数值X      5X               5X修约值                X修约值
830             4150             4200                   840
842             4210             4200                   840
832             4160             4200                   840
-930            -4650            -4600                  -920

①当保留n位有效数字,若第n+1位数字≤4就舍掉。

②当保留n位有效数字,若第n+1位数字≥6时,则第n位数字进1。
③当保留n位有效数字,若第n+1位数字等于5且后面数字为0时,则第n位数字若为偶数时就舍掉后面的数字,若第n位数字为奇数时加1;若第n+1位数字等于5且后面还有不为0的任何数字时,无论第n位数字是奇或是偶都加1。

这一法则的具体运用如下:

(1)将28.175和28.165处理成4位有效数字,则分别为28.18和28.16。
(2)若被舍弃的第一位数字大于5,则其前一位数字加1,例如28.2645处理成3为有效数字时,其被舍去的第一位数字为6,大于5,则有效数字应为28.3。
(3)若被舍去的第一位数字等于5,而其后数字全部为零时,则是被保留末位数字为奇数或偶数(零视为偶),而定进或舍,末位数是奇数时进1,末位数为偶数时还进1,例如28.350、28.250、28.050处理成3位有效数字时,分别为28.4、28.2和28.0。
(4)若被舍弃的第一位数字为5,而其后的数字并非全部为零时,则进1,例如28.2501,只取3位有效数字时,成为28.3。
(5)若被舍弃的数字包括几位数字时,不得对该数字进行连续修约,而应根据以上各条作一次处理。如2.154546,只取3位有效数字时,应为2.15,若是按2.154546→2.15455→2.1546→2.155→2.16,得出的2.16是错误的!

练习:将下组数据保留一位小数:

45.77≈45.8;43.03≈43.0;0.26647≈0.3;10.3500≈10.4;38.25≈38.2;47.15≈47.2;25.6500≈25.6;20.6512≈20.7

3、正确表示

①有效数字中只应保留一位欠准数字,因此在记录测量数据时,只有最后一位有效数字是欠准数字。

②在有效数字中,“0”在有效数字中有两种意义:一种是作为数字定值,另一种是有效数字。例如在分析天平上称量物质,得到如下质量:
质量(g)10.1430,2.1045,0.2104,0.0120,有效数字位数分别是6位,5位,4位,3位。

以上数据中“0”所起的作用是不同的。在10.1430中两个“0”都是有效数字,所以它有6位有效数字;在2.1045中的“0”也是有效数字,所以它有5位有效数字;在0.2104中,小数前面的“0”是定值用的,不是有效数字,而在数据中的“0”是有效数字,所以它有4位有效数字;在0.0120中,“1”前面的两个“0”都是定值用的,而在末尾的“0”是有效数字,所以它有3位有效数字。

可见:数字中间的“0”和末尾的“0”都是有效数字,而数字前面所有的“0”只起定值作用。

③以“0”结尾的正整数,有效数字的位数不确定

例如4500这个数,就不会确定是几位有效数字,可能为2位或3位,也可能是4位,遇到这种情况,应根据实际有效数字书写成:4.5×103是2位有效数字;4.50×103是3位有效数字;4.500×103是4位有效数字。因此很大或很小的数,常用10的乘方表示。当有效数字确定后,在书写时一般只保留一位可疑数字,多余数字按数字修约规则处理。
④2.998x104(2.998乘以10的4次方)中,保留3个有效数字为3.00×104
⑤对数的有效数字为小数点后的全部数字,如1gx=1.23有效数字为2、3;lga=2.045有效数字为0、4、5,pH=2.35有效数字为3、5;
⑥π等常数,具有无限位数的有效数字,在运算时可根据需要取适当的位数。

数学与物理常数的有效数字位数可任意选取,一般选取的位数应比测量数据中位数最少者多取一位。

例如:π可取=3.14或3.142或3.1416......;在公式中计算结果不能由于“2”的存在而只取一位存疑数字,而要根据其他数据来决定。

4、计算规则

①加减法:以小数点后位数最少(即以绝对误差最大)的数据为基准,其他数据修约至与其相同,再进行加减计算,最终计算结果保留最少的位数。
例1  0.0121+25.64+1.05782=?
修约计算0.01+25.64+1.06=26.71
上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后面第二位。
例2  计算50.1+1.45+0.5812=?
修约计算:50.1+1.4+0.6=52.1
练习:26.65-3.905-26.65-3.90=22.75

②乘除法:以有效数字最少(即以相对位数量大)的数据为基准,其他有效数修的至相同,再进行

乘除运算,计算结果仍保留最少的有效数字。
例1 计算0.0121×25.64×1.05728=?
解 修约为:0.0121×25.6×1.06=?计算后结果是:0.3283456,结果仍保留为三位有效数字,记录为:0.0121×25.6×1.06=0.328
分析 这个计算中3个数的相对误差分别为:
E%=(±0.0001)/0.0121×100=±8%
E%=(±0.01)/25.64×100=±0.04%
E%=(±0.00001)/1.05782×100=±0.0009%
结论 第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可。
练习 计算2.5046×2.005×1.52≈2.50×2.00×1.52=7.60
例2 当把1.13532×1010保留3个有效数字时,结果为1.14×1010

③乘方、开方后的有效数字位数与被乘方和被开方之数的有效数字的位数相同。

例3 (0.341)2=0.116

④指数、对数、三角函数运算结果的有效数字位数由其改变量对应的数位决定,如前述三示例。


⑤自然数,在分析化学中,有时会遇到一些倍数和分数的关系,如:水的相对分子量=2×1.008+16.00=18.02;
在这里“2×1.008”中的“2”看作是一位有效数字。因为它们是非测量所得到的数,是自然数,其有效数字位数可视为无限的。
在常见的常量分析中,一般是保留四位有效数字,但在水质分析中,有时只要求保留2位或3位有效数字,应视具体要求而定。
例4 运算中若有π、e等常数,以及√2、√3、1/2等系数,其有效数字可视为无限,不影响结果有效数字的确定。

综合以上分析可知

有效数字的末位是估读数字,存在不确定性。一般情况下不确定的有效数字只取一位,其位数即是测量结果的存疑数字的位置;有时不确定的数字需要取两位数字(存疑数字因计算进位,会使准确数字变为存疑),其最后一个位数才与测量结果的存疑数字的位置对应。

但要注意:具休规则有一定适用范围,在通常情况下,由于近似的原因,如不严格要求可认为是正确的。由于有效数字的最后一位是不确定度所在的位置,因此有效数字在一定程度上反映了测量值的不确定度(或误差限值),测量值的有效数字位数越多,测量的相对不确定度越小;有效数字位数越少,相对不确定度就越大。可见,有效数字可以粗略反映测量结果的不确定度。


有效数字的运算一般遵循:

(1)可靠数字之间运算的结果为可靠数字。
(2)可靠数字与存疑数字,存疑数字与存疑数字之间运算的结果为存疑数字。
(3)测量数据一般只保留一位存疑数字.
(4)运算结果的有效数字位数不由数学或物理常数来确定。
(5)运算结果将多余的存疑数字舍去时应按照“四舍六入五成双”的法则进行处理,即小于等于四则舍;大于五则入;等于五时,根据其前一位按奇入偶舍处理。
作者:尹明德


上一篇:压力表检定相关问题汇总

下一篇:测量不确定度出与测量误差的区别与应用

云南昌晖仪表制造有限公司 香港昌晖自动化系统有限公司
技术支持:昌晖自动化 滇ICP备14003915号