江西環境監測中的近似計算規則
在日常的環境監測過程中,往往需要對數據進行計算,計算過程中會遇到如何選擇有效位數的問題。環境監測技術規范中監測數據的近似計算規則如下。
(1)加法和減法
幾個近似值相加減時,其和或差的有效數字位數,與小數點后位數z少者相同。在運算過程中,可以多保留一位小數。計算結果則按數值修約規則處理。
幾個近似值相加減時,其和或差的有效數字決定于誤差z大的數值,即z后結果的有效數字自左起不超過參加計算的近似值中第-個出現的可疑數字。在小數的加減計算中,結果所保留的小數點后的位數與各近似值中小數點后位數z少者相同。
例:1.7250 + 74.3 + 21.23 ≈ 1.72 +74.3 + 21.23 = 97.25
z后計算結果按照修約規則處理,表示為:97.2。
(2)乘法和除法
幾個近似值相乘除時,所得積與商的有效數字位數決定于各種值中有效數字位數z少者。在實際運算時,先將各近似值修約至比有效數字位數z少者多保留一位,z后將計算結果按上述規則處理。
幾個近似值相乘除時,所得積與商的有效數字位數決定于相對誤差z大的近似值,即z后結果的有效數字位數要與近似值中有效數字位數z少者相同。
例:1.141 × 4.3 × 0.131 ≈ 1.14 × 4.3 × 0.131 = 0.642162
z后計算結果按照修約規則處理,表示為:0.64。
(3)乘方和開方
近似值乘方或開方時,原近似值有幾位有效數字,計算結果就可以保留幾位有效數字。
例:1.3222 = 1.747684
z后計算結果應保留四位有效數字:1.748。
例:1.4141/2 = 1.189117…
z后計算結果應保留四位有效數字:1.189。
(4)對數和反對數
在近似值的對數計算中,所取對數的小數點后的位數(不包括首數)應與真數的有效數字位數相同。
例:[H+]濃度為7.00 ×10-2 mol/L的pH值計算。
pH = -lg[H+] = -lg[7.00 ×10-2] = 1.154901…(真數7.00×10-2是三位有效數字)
z后計算結果是求對數,小數點后的位數應保留三位有效數字:1.155。
例:pH為4.00的溶液中[H+]的濃度計算。
[H+] = -lg[H+] = 4.00 (對數4.00小數點后有兩位數字,故真數要有兩位有效數字)
z后計算結果應保留二位有效數字:1.0×10-4 mol/L
(5)求4個或4個以上準確度接近的數值的平均值時,其有效數字位數可增加一位。
例:(1.20 + 1.21 + 1.23 + 1.23)÷ 4 = 1.2175
z后計算結果按照修約規則處理,可表示為:1.218。