木村勇雄の「有効数字の簡便な扱い」

MENU｜1.測定｜2.有効数字｜3.加減算｜4.乗除算｜5.関数｜6.丸め方｜7.効率的

7. 効率的な計算方法

7.1.

次の計算をする。
${(2.234 \times 5.67815) + 100.9049} \times 4.60$

有効数字を考慮しない場合

$2.234 \times 5.67815 = 12.6849871$
$12.6849871 + 100.9049 = 113.5898871$
$113.5898871 \times 4.60 = 522.51348066 = 523$

労力の無駄であるばかりでなく，電卓のキーの押し間違いや，ノートへの転記ミスの原因となる。

しかし，それ以前に，理系のセンスをまるで感じさせない行為であるから，決して人前でしてはならない。

有効数字を考慮して毎回丸める場合

$2.234 \times 5.67815 = 12.68$
$12.68 + 100.9049 = 113.58$
$113.58 \times 4.60 = 522$

計算途中で丸めを繰り返すうちに精度が落ちる。

有効数字 + 1 桁で計算を進める場合

$2.234 \times 5.67815 = 12.685$: 本当は全桁数 4 桁の 12.68 だが，1 桁増やしてある。

$12.685 + 100.9049 = 113.590$: 本当は小数第 2 位までの 113.59 であるが，1 桁増やしてある。

$113.590 \times 4.60 = 523$

こうすれば，精度はほとんど落ちない。

結論
測定値の有効桁数 + 1 桁の数値を使用する（気体定数，分子量など） 有効数字 + 1 桁で計算を進める 最終段階で本来の有効数字を考慮する

提案

以上の操作を確実に実行するためには，計算途中につき増やした桁にマークを付けて示せばよい。ここでは上線で示すことにする。

$0.540 \times 5.671 = 3.06 \bar{2}$: 本当は全桁数3桁の 3.06 だが，1 桁増やしてある。その増やした桁を上線でマークする。

$3.06 \bar{2} + 10.9049 = 13.96 \bar{7}$: 本当は小数第 2 位までの 13.97 であるが，1 桁増やしてある。その増やした桁を上線でマークする。

$13.96 \bar{7} \times 8.4 = 1.2 \times 10^{2}$: 全桁数 2 桁が有効。120 や 117 は不正解。

丸める桁が 5 になる場合はさらにその下の桁にわたってマークすることにする。

例1
$1.234 \times 3.451 = 4.258534$: すべての桁を表示するとこうなる。

$1.234 \times 3.451 = 4.258 \bar{5}$: 計算途中につき 1 桁増やした桁が 5 となる例。その上の桁が偶数なので，JIS Z 8401 により切り捨てで 4.248 を得る。しかし，この桁は切り捨てによって 5 になったものであり，本来は切り上げなければならなかった。計算ステップ数が少ない場合は誤差を抱えたままになるかもしれない。

$1.234 \times 3.451 = 4.258 \bar{53}$: そこで，丸めようとする桁が 5 になる場合はさらに下の桁まで表示することにする。その結果，切り上げるべき場合は確実に切り上げることができるようになる。

例2
$2.234 \times 5.67815 = 12.68498705$: すべての桁を表示するとこうなる。

$2.234 \times 5.67815 = 12.68 \bar{5}$: 計算途中につき 1 桁増やした桁が 5 である例。その上の桁が偶数なので，JIS Z 8401 によって切り捨てることになる。しかし，本当に切り捨ててよいか。

$2.234 \times 5.67815 = 12.68 \bar{50}$: 5 の下の桁が 0 になる場合は，まだ判別できない。判別できるようになるまで桁を増やす。

$2.234 \times 5.67815 = 12.68 \bar{499}$: その結果，切り捨てるべきであったことが明らかになる。

留意すべきこと
常にこれだけの配慮が必要であるとは限らない。 必要ではない場合には，簡便性を優先してよい。 有効桁数が 1 桁程度の場合でも，3 桁の精度で計算を進める方がよい。 有効桁は計算過程で変動する。よく入試問題などで「有効数字○桁で求めよ」のような記述を目にするが，計算前に有効桁を決定することはできない。

<< 戻る

7. 効率的な計算方法

Copyright © Kimura Isao, Faculty of Engineering, Niigata University
コンテンツの著作権は新潟大学工学部・木村勇雄が所有します。一部あるいは全部を許諾なく使用，複製，配布，あるいは変造することを禁じます。

counted since 2020/07/24