1.10:
測定の不確実性：測定値の読み取り
1.10:
測定の不確実性：測定値の読み取り
カウントは、カウントされる対象数が過程中に変化しない場合、不確実性のない測定タイプです。 このような測定結果は厳密な数値になります。 たとえば、紙箱に入っている卵をカウントすることで、紙箱に入っている卵の数を正確に特定できます。 同様に、定義された数量の数も厳密です。 たとえば、 1 フィートは正確に 12 インチ、 1 インチは正確に 2.54 cm 、 1 グラムは正確に 0.001 kg です。 ただし、カウント以外の測定で得られた値は、使用される測定過程の実用的な制限により、不確実です。
有効数字
すべての測定には不確実性があり、使用するデバイス（およびユーザーの能力）に依存します。 例えば、メスシリンダーの液体の量は、メニスカスの底（液体の曲面の最も低い点）を読み取ることで測定されます。 メニスカスの底が 目盛り15 と 16 の間にあるとします。つまり、液体の量は確かに 15 mL より多く 16 mL より少ないことを意味します。 メニスカスは 16 mL のマークに少し近いように見えるので、液体の容量は15.6 mL が妥当だと推定されます。 この測定値では、 10 と 5の数値は確実であるが、 10 分の 1 の位、 最後の数字の6 は推定値です。 メニスカスの位置はそれぞれの目盛りから等しく離れており、 10 分の 1 の位を 5 と推定する人もいれば、 16 mL の目盛りにより近いと考え、 7 と推定する人もいます。 このメスシリンダーの数値のスケールは 1 mL の目盛りで構成されているため、 量は 0.1 mL 単位で測定できます。 同様に、標準的な電子天秤は25セント硬貨の重量を 5.74 g として量ることができます。 この数字の 5 と 7 は確実であり、 4 は25セント硬貨の質量が 5.73 から 5.75 グラムの範囲内である可能性があることを示しています。 25セント硬貨の重量は約 5.74 グラムで、 測定では+0.01 グラムのわずかな不確実性があります。 硬貨をより精度の高い天秤で量れば、重さは 5.743 g であるかもしれません。これは、その質量が 5.742 ～ 5.744 グラムであり、 0.001 グラムの不確実性があることを意味します。