有效數(shù)字運算規(guī)則
由于與誤差傳遞有關,計算時加減法和乘除法的運算規(guī)則不太相同.
1.加減法
先按小數(shù)點后位數(shù)最少的數(shù)據(jù)保留其它各數(shù)的位數(shù),再進行加減計算,計算結(jié)果也使小數(shù)點后保留相同的位數(shù).
例：計算50.1+1.45+0.5812=?
修約為：50.1+1.4+0.6=52.1
先修約,結(jié)果相同而計算簡捷.
例：計算 12.43+5.765+132.812=?
修約為：12.43+5.76+132.81=151.00
注意：用計數(shù)器計算后,屏幕上顯示的是151,但不能直接記錄,否則會影響以后的修約；應在數(shù)值后添兩個0,使小數(shù)點后有兩位有效數(shù)字.
2.乘除法
先按有效數(shù)字最少的數(shù)據(jù)保留其它各數(shù),再進行乘除運算,計算結(jié)果仍保留相同有效數(shù)字.
例：計算0.0121×25.64×1.05782=?
修約為：0.0121×25.6×1.06=?
計算后結(jié)果為：0.3283456,結(jié)果仍保留為三位有效數(shù)字.
記錄為：0.0121×25.6×1.06=0.328
注意：用計算器計算結(jié)果后,要按照運算規(guī)則對結(jié)果進行修約
例：計算2.5046×2.005×1.52=?
修約為：2.50×2.00×1.52=?
計算器計算結(jié)果顯示為7.6,只有兩位有效數(shù)字,但我們抄寫時應在數(shù)字后加一個0,保留三位有效數(shù)字.
2.50×2.00×1.52=7.60