有効数字

測定結果には必ず測定誤差がつきまとう。真の値からのずれの度合いを不確かさと称するが、これを測定値で割ったものが％単位などで表示したものが、相対誤差の目安となる。

近年のデジタル計測器の普及、電卓などの利用の普及につれ、測定誤差を考慮しないで多くの桁数を実験記録に残し、あるいは論文に記載する例を多く見かけるようになった。

しかし、誤差の存在を考慮すれば5桁や6桁の測定記録は無意味で、せいぜい相対誤差より一桁高い数値までが意味がある。有効数字は計測誤差の存在を前提に、意味のある細かさまで表示する習慣だ。読み取れることと、有効な数値の桁数とは別問題である。さらに、少ない有効桁のデーターを処理する過程で出てくる計算結果をそのまま記載する方も存在する。

0.1％の不確からしさで測定することは結構難しい。環境が変われば計器の不確かさはさらに増す。そして、測定対象の測定量も変化する。例えば、長さの測定を考えると、多くの金属では１℃の変化で10-5以上変化する。プラスティックなど1-2桁、金属より線膨張率がおおきい。温度の測定値を併記しなければ0.1％以上の数値はプラスティックでは怪しいのである。

半導体の原版を焼き付ける縮小露光装置の位置決めは、高度な空調下で干渉光を使い、温度はもちろん、気圧・湿度まで補正すると聞いている。

測定原理を知り、計測器の誤差をきちんと把握していなければ、得られた結果の数値は結構怪しい。

アナログエンジニアは一般計量士の資格を持っているので、種々の量の扱いには気を配る方だ。

近年、大学で「計測概論」「計測工学」など測定に関する講義が少なくなってきているような気がする。工学的に数値を扱う際には、常に測定誤差を考えておく必要がある。

科学は測定に始まり測定に終わる。

『人気Blogランキング』の「自然科学」部門に参加しています。今日も貴重な応援の１票をよろしくお願いします。【押す】