1.11:

測定の不確実性:有効数字

JoVE 核
化学
需要订阅 JoVE 才能查看此.  登录或开始免费试用。
JoVE 核 化学
Uncertainty in Measurement: Significant Figures

54,239 Views

03:34 min

September 03, 2020

測定値内のすべての桁は、不確かな最後の桁を含め、有効数字または有効桁数と呼ばれます。 ゼロであっても測定値となりえます。たとえば、もし最も近い重量を示す値が「 140 」ポンドである場合、 1 (100の位)、 4 (10の位)、および 0 ( 1の位 )はすべて重要な(測定された)値になります。

測定結果は、有効数字が測定過程の確実性を正確に表している場合、適切に報告されます。 測定値の有効数字の数を決定するための、一連のルールを以下に示します。

  1. ゼロ以外の数字はすべて重要です。 左側の最初のゼロ以外の桁を始めに、この桁から残りのすべての桁を右側に数えます。 これが測定値の有効数字です。 たとえば、 843 には有効数字が 3 桁あり、 843.12 には有効数字が 5 桁あります。  
  2. 挟まれたゼロとは、 2つのゼロでない数字の間のゼロであり、重要です。 たとえば、 808.101 には、 2 つの挟まれたゼロと 6 つの重要な数字があります。
  3. 先頭ゼロは、最初のゼロ以外の数字の左にあるゼロです。 このような先頭の数字は重要ではありません。小数点の位置を表すだけです。 例えば、 0.008081 の先頭ゼロは重要ではありません。 この数値は、指数表記を使うと 8.081 × 10-3 と表すことができます。次に、 8.081 という数値にはすべて有効数字が含まれ、 10-3 は小数点の位置を表します。
  4. 末尾のゼロ、数値の末尾についている 0 の重要性は、その位置によって異なります。 小数点の前(ただしゼロ以外の桁の後)および後のゼロは重要です。 しかし、小数点を持たない数値の場合、末尾のゼロは重要である場合とそうでない場合があります。 この曖昧さは、指数表記を使用することで解決できます。 たとえば、測定値 1300 は、 1.3 × 103 ( 2 つの有効数字)、 1.30 × 103 ( 10 の位を測定した場合は 3 つの有効数字)、または 1.300 × 103 ( 1 の位も測定した場合は 4 つの有効数字)として記述できます。

計算の際の有効数値

測定値の不確かさは、計算結果を正しい数値を使って報告することで回避できます。 これは、次のような数字の丸め方のルールによって決定できます。

  1. 数値を加算または減算する場合は、最も小さい小数点以下の桁数で、結果を丸める。
  2. 数値を乗算または除算する場合は、有効数字が最小となる桁に、結果を丸める。
  3. 削除する桁(留めておく桁の右側の桁)が 5 桁未満の場合は、「切り捨て」を実行し、留めておく桁は変更しない。
  4. 削除する桁(留めておく桁の右側の数字)が 5 桁以上の場合は、「切り上げ」して、留めておく桁を 1 桁増やす。 削除する桁が 5 桁の場合は、代替の丸め方法も使用できます。 留めておく桁は切り上げまたは切り捨てられるが、どちらになろうとも偶数になります。

重要な事は、丸めによる各ステップでの誤差の蓄積を避けるために、複数のステップでの計算の最後に、重要な数値の丸めを行うことです。 このようにして、有効数字と丸めにより、報告された測定値の信頼性がより正しく表現されます。

このテキストは 、 Openstax 、 Chemistry 2e 、 Section 1.5 : Measurement Uncertainty 、 Accuracy 、および Precision から引用しています。