物理化学实验
上QQ阅读APP看书,第一时间看更新

2.7 有效数字的表达与运算

根据误差理论可知,任何数据的准确度都是有限的,只能用一定形式的近似度来表达。因此,测量结果经过数值计算得到的最终值的准确度就不会超过原始测量值的准确度,这就要考虑测量数据的正确表达和有效数字的正确运算问题。

2.7.1 有效数字的表达

有效数字是指测量中实际能测量到的数字,它包括测量中全部准确数字与一位估计数字。

有关有效数字的表达方法如下:

①误差一般只取一位有效数字,最多两位。

②任何一个物理量的数据,其有效数字的最后一位在位数上应与误差的最后一位一致。例如,1.35±0.01是正确的,若写成1.350±0.01或者1.3±0.01则意义不明确。

③为了明确地表示有效数字,凡用“0”表示小数点位置的,通常用乘10的相当幂次表示。例如,0.00312应写成3.12×10-3。对于15800这样的数,若实际测量只取三位有效数字,则应写成1.58×104;若实际测量取四位有效数字,则应写成1.580×104

④有效数字的位数越多,数值的精确度越大,相对误差越小。例如,长度(1.35±0.01)m表示有三位有效数字,相对误差为0.7%;若长度为(1.3500±0.0001)m,则表示有五位有效数字,相对误差为0.007%。

2.7.2 有效数字的运算

根据运算符的不同,有效数字的取舍各异。

①若第一位数字大于或者等于8,其有效数字位数可多算一位,如9.58有效数字位数可算作4位。

②采用“四舍六入逢五尾留双”的原则。例如将数据9.435和4.685取三位有效数字,根据上述原则,应分别取为9.44和4.68。

③在加减运算中,各数值小数点后所取位数以其中小数点后的位数最小者为准。例如:

9.514+2.094354=9.514+2.094=11.608

④在乘除运算中,各数保留的有效数字应以其中有效数字最小者为准。例如:

3.14289×294.2÷1.73205=3.143×294.2÷1.732=533.9

⑤在对数运算中,运算结果的尾数部分(小数部分)的位数应与原取对数的真数的有效位数相同,例如:

lg(2.587×1012)=12.4128

ln(1.42×10-5)=-11.162

⑥在乘方和开方运算中,结果可多保留一位。

⑦在计算过程中,常数π、e、F和某些取自手册的常数不受上述规则限制,根据实际需要任意选取。