一. 有效數(shù)字及其運算規(guī)則
1. 有效數(shù)字的意義和位數(shù)
(1)有效數(shù)字:所有準確數(shù)字和一位可疑數(shù)字(實際能測到的數(shù)字)
(2)有效位數(shù)及數(shù)據(jù)中的“ 0 ”
1.0005, 五位有效數(shù)字
0.5000, 31.05% 四位有效數(shù)字
0.0540, 1.86 三位有效數(shù)字
0.0054, 0.40% 兩位有效數(shù)字
0.5, 0.002% 一位有效數(shù)字
2. 有效數(shù)字的表達及運算規(guī)則
(1)記錄一個測定值時,只保留一位可疑數(shù)據(jù),
(2)整理數(shù)據(jù)和運算中棄取多余數(shù)字時,采用“數(shù)字修約規(guī)則”:
四舍六入五考慮
五后非零則進一
五后皆零視奇偶
五前為奇則進一
五前為偶則舍棄
不許連續(xù)修約
(3)加減法:以小數(shù)點后位數(shù)最少的數(shù)據(jù)的位數(shù)為準,即取決于絕對誤差最大的數(shù)據(jù)位數(shù);
(4)乘除法:由有效數(shù)字位數(shù)最少者為準,即取決于相對誤差最大的數(shù)據(jù)位數(shù);
(5)對 數(shù):對數(shù)的有效數(shù)字只計小數(shù)點后的數(shù)字,即有效數(shù)字位數(shù)與真數(shù)位數(shù)一致;
(6)常 數(shù):常數(shù)的有效數(shù)字可取無限多位;
(7)第一位有效數(shù)字等于或大于 8 時,其有效數(shù)字位數(shù)可多算一位;
(8)在計算過程中,可暫時多保留一位有效數(shù)字;
(9)誤差或偏差取 1~2 位有效數(shù)字即可。
二. 可疑數(shù)據(jù)的取舍
1. Q-檢驗法 (3~10次測定適用,且只有一個可疑數(shù)據(jù))
(1) 將各數(shù)據(jù)從小到大排列:x1, x2, x3……xn ;
(2)計算 (x大-x小), 即 (xn -x1);
(3)計算 ( x可-x鄰),
(4)計算舍棄商 Q 計 =ô x可-x鄰ô/ xn -x1
(5)根據(jù) n 和 P 查 Q 值表得 Q表
(6)比較 Q表 與 Q 計
若: Q 計 ³ Q表 可疑值應(yīng)舍去
Q 計 < Q表 可疑值應(yīng)保留
2. G檢驗法(Grubbs 法)
設(shè)有n各數(shù)據(jù),從小到大為x1, x2, x3,…… xn;
其中 x1 或 xn為可疑數(shù)據(jù):
(1) 計算 (包括可疑值x1、 xn在內(nèi))、∣x可疑-∣及S;
(2) 計算G:
(3) 查G值表得Gn,P
(4) 比較G計與Gn,P:
若 G計 ³ Gn,P則舍去可疑值;
G計 < Gn,P則保留可疑值。
三. 分析數(shù)據(jù)的顯著性檢驗
1. 平均值()與標準值(m)之間的顯著性檢驗 —— 檢查方法的準確度
(20)
若 t計 ³ t0.95, n 則 與 m 有顯著性差異(方法不可靠)
t計 < t0.95, n 則 與 m 無顯著性差異(方法可靠)
2. 兩組平均值的比較
(1)先用F 檢驗法檢驗兩組數(shù)據(jù)精密度 S1(小)、S2(大) 有無顯著性差異(方法之間)
(21)
若此 F計 值小于表中的F(0.95) 值,說明兩組數(shù)據(jù)精密度S1、S2無顯著性差異,反之亦反。
(2)再用 t 檢驗法檢驗兩組平均值之間有無顯著性差異
(22)
查 t0.95 (f=n1+n2)
若 t計 ³ t0.95, n 則 說明兩平均值有顯著性差異
t計 < t0.95, n 則 說明兩平均值無顯著性差異