產品推薦:氣相|液相|光譜|質譜|電化學|元素分析|水分測定儀|樣品前處理|試驗機|培養(yǎng)箱


化工儀器網(wǎng)>技術中心>專業(yè)論文>正文

歡迎聯(lián)系我

有什么可以幫您? 在線咨詢

工廠實驗室分析測試中的有效數(shù)字的運算規(guī)則

來源:南京鑫耀分析儀器制造有限公司   2012年03月28日 08:48  
在分析測定中,一般要經過幾個測量步驟,獲得幾個測量數(shù)據(jù),然后把這些數(shù)據(jù)經過適當?shù)奶幚砗瓦\算,得出zui后的分析結果。由于各個數(shù)據(jù)的準確程度或有效數(shù)字不一定相等,因此運算時必須按照一定的規(guī)則運算,合理取舍各個數(shù)據(jù)的有效位數(shù)。只有這樣,才能節(jié)省時間,又可避免得出不合理的分析結果。
①       加減法:其和或差的有效數(shù)字的保留位數(shù),應以小數(shù)點后有效數(shù)字或位數(shù)zui少的數(shù)據(jù)為準(即以誤差zui大的數(shù)據(jù)為依據(jù)),先修約后計算。
【例】若將下列3個數(shù)據(jù)相加:0.0121,25.64,1.0578,應如何運算?
解   運算時,先確定各有效數(shù)字的保留位數(shù),按“修約規(guī)則”棄去不必要的數(shù)字后,再進行相加運算。
0.0121+25.64+1.0578=0.01+25.64+1.06=26.71
②乘除法:其積或商的有效數(shù)字的保留位數(shù),應以各數(shù)據(jù)中的有效數(shù)字位數(shù)zui少的數(shù)據(jù)為準(即以相對誤差zui大的數(shù)據(jù)為依據(jù)),先修約后計算。對修約后的數(shù)據(jù)全部相乘或除后的結果進行取舍,中間過程不再取舍。(即不能將其中幾個數(shù)相乘或除后的積或商取舍各數(shù)據(jù)中有效數(shù)字位數(shù)zui少的位數(shù)后,再與其他數(shù)據(jù)相乘或除)。
【例】將0.0121,25.64,1.0578三個數(shù)相乘,應如何運算?
解   先計算出每個數(shù)據(jù)的相對誤差:
0.0121的相對誤差=0.0001∕0.0121×100%=0.8%
25.64的相對誤差=0.01∕25.64×100%=0.04%
1.0578的相對誤差=0.0001∕1.0578×100%=0.00009%
顯然數(shù)據(jù)0.0121的相對誤差zui大,因此各有效數(shù)字應取三位有效數(shù)字進行運算,其積取三位有效數(shù)字。
0.0121×25.64×1.0578=0.0121×25.6×1.06=0.328
③加減乘除混合運算:分別參照以上①、②分步進行運算即可。
④對數(shù)的運算:所取對數(shù)位數(shù)應與真數(shù)有效數(shù)字位數(shù)相等。
【例】若溶液中[H+]=9.6×10¯¹²mol/L,試計算溶液的pH值為多少?
解   [H+]=9.6×10¯¹²mol/L,根據(jù)pH的定義公式可得:

pH=-lg[H+]=-lg(9.6×10¯¹²)=12- lg9.6=12-0.98=11.02

免責聲明

  • 凡本網(wǎng)注明“來源:化工儀器網(wǎng)”的所有作品,均為浙江興旺寶明通網(wǎng)絡有限公司-化工儀器網(wǎng)合法擁有版權或有權使用的作品,未經本網(wǎng)授權不得轉載、摘編或利用其它方式使用上述作品。已經本網(wǎng)授權使用作品的,應在授權范圍內使用,并注明“來源:化工儀器網(wǎng)”。違反上述聲明者,本網(wǎng)將追究其相關法律責任。
  • 本網(wǎng)轉載并注明自其他來源(非化工儀器網(wǎng))的作品,目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責,不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉載時,必須保留本網(wǎng)注明的作品第一來源,并自負版權等法律責任。
  • 如涉及作品內容、版權等問題,請在作品發(fā)表之日起一周內與本網(wǎng)聯(lián)系,否則視為放棄相關權利。
企業(yè)未開通此功能
詳詢客服 : 0571-87858618