轮播
有效数字、欠准数字、可靠数字和数据修约在数据处理中的应用

2019/5/16 16:27:37 分类:计量检定 
文章地址://www.e-cumulus.com/tech/2491.html

仪表工在校准仪表或测量参数数据时均会与数字接触,只有明白有效数字、欠准数字、可靠数字、有效数字的运算规则、数据修约的概念和关于“0”的使用原则,才能对测量记过进行合理的处理。本文最这些知识做简单介绍。

有效数字、欠准数字和可靠数字

在测量结果中能准确读出的是可靠数字,估读出来的是欠准数字,将可靠数字和欠准数字合起来,称为有效数字,如25.3、0.0135都是三位有效数字。其中,25和13分别是可靠数字,而后面的3和5则是欠准数字。在一个数据中,只保留一位欠准数字,其余都应是可靠数字。

关于“0”的使用原则

①只与计量单位有关的数字“0”不计入有效数字。例如,仪表工可以将245mV写成0.245V,两种写法的有效数字都是三位。
②小数点后面的“0”一般不能随意省略,例如15mA和15.0mA,两种写法差距很大,15mA表示电流可能是14mA,也可能是16mA,而15.0mA说明15是可靠的,小数点后的零则是欠准的。

有效数字的运算规則

①常数运算。参加运算的常数如,π、e、根号二等,其有效位数根据需要确定。
②加减法运算。运算时,将小数位数多的进行舍入处理,使其比小数位数少的只多一位小数,然后进行计算。运算结果的小数位数取至各数中小数位数最少的位数。侧如,17.6+2.45+0.314,先将0.314化整为0.31,则17.6+2.45+0.31=20.43,最后的取值为20.4。
③乘除法运算。运算时,以有效位数最少的为准,对位数较多的数进行舍入处理,使其比有效位数少的多一位,然后运算,运算结果的位数,取至各数中有效位数最少的数。

数据修约

①测量结果数据悔约的确定
对测量结果数据修约到哪一位,根据微小误差准则,被修约数据的位数要比被测量允许误差多一个数量级。例如,被测量允许误差为1%,则数据修约确定为0.1%。
②修约规则(常规修约)
规则规定,当拟舍去的数字中,最左边的一位数字小于5时,则舍去。例如,将31.4365修约到只保留一位小数时,其舍去的数字中最左边的一位是“3”,应舍去,结果为31.4。
当拟舍去的数字中最左边的数字大于5时,应进位,即在保留的末位数上加1。例如,将36.2631修约到只保留一位小数时,其舍去的数字最左边的位数是6,则应进位,修约结果为36.3。
◆当拟舍的数字最左一位刚好为“5”时,如果拟保留的末位数是奇数则进一,若是偶数则不进,即偶数法则。例如,对6.4852和2.1358进行修约,取三位有效数字,修约后未6.48和2.14。

有效数字、欠准数字、可靠数字、有效数字的运算规则、数据修约的概念和关于“0”的使用原则仪表工要完全理解和掌握,比如处理仪表检定结果时,检定数据所取位数不要过多或过少取得过多,则浪费计算时间,还可能对测量结果产生误差;取得太少,又不能满足精确度要求。

上一篇:检重秤限位值和目标重量值设定方法

下一篇:3种11类强制检定压力表明细清单及检定周期

云南昌晖仪表制造有限公司 香港昌晖自动化系统有限公司
技术支持:昌晖自动化 滇ICP备14003915号