有効数字と四捨五入：正確に見える数値がなぜ間違っているのか

単位変換ツールは入力がどの程度正確なのかは知ることができない

単位変換ツールに「12.5」と入力すると、倍精度浮動小数点の15～16桁の精度で保持された係数を掛け、複数の小数点以下の桁数でフォーマットされた結果を返します。その計算自体は間違っていません。問題になるのは、出力が入力よりも信頼できると見なすことです。なぜなら、単位変換ツールは「12.5」が正確に12.500000…を意味するのか、それとも3つの有効数字までしか精度のない巻き尺の読み取り値なのかを知る方法がないからです。このサイト独自の方法論ページには表示方針が記載されています。小数点以下最大8桁、末尾のゼロは削除、科学記法は概ね1e-6～1e9の外側。これは書式設定ルールです。特定の入力に対してどれだけの表示桁が意味があるかについては何も述べていません。それは元の測定値を持っている人だけが判断できることです。

「有効数字」が実際に数えるもの

有効数字とは、測定量に関する実際の情報を伝える数字です。これに対して、数値のスケールだけを示す数字とは対照的です。0.0250では、前の2つのゼロは有効数字ではありません。小数点を配置するだけです。ただし、5の後の末尾のゼロは有効数字です。なぜなら、誰かがそれを意図的に書いたため、その値がその4番目の桁まで既知であることを暗に示しており、例えば0.02のような不明示の四捨五入ではないからです。小数点表記がない場合、ここで曖昧さが忍び込みます。「200 kg」は、厳密には3つの有効数字で既知であることを意味するかもしれません。あるいは、わずか1つだけの有効数字で既知の粗い数字かもしれません。科学記法はこの曖昧さを完全に排除します。2 × 10²kgと2.00 × 10²kgは誤読することができません。

操作に応じて異なる2つのルール

測定量を組み合わせるとき、精度の低下は操作が乗法的か加法的かによって異なります。間違ったルールを適用することは一般的なエラーです：

• 乗法と除法（これはすべてのユニット変換が行う演算です）：結果は最も精度の低い入力より多くの有効数字を持ちません。3つの有効数字に既知の長さを異なるユニットに変換しても、算術がいくつの数字を生成しようとも、有効数字は3つのままです。
• 加法と減法：結果は有効数字の数に関係なく、最も精度の低い入力より多くの小数点以下の桁を持ちません。12.5 m + 0.084 mは最初の項により小数点以下1桁に制限され、12.584 mではなく12.6 mになります。

ユニット変換は常に最初のケースです：値 × 係数。係数自体の精度も重要です。これが「厳密に定義」されることが重要になるところです。

厳密な係数は有効数字を失わせません。測定係数は失わせます

厳密に定義された変換係数で乗算する場合、例えば1インチ = 2.54 cm厳密に、1 lb = 0.45359237 kg厳密に、精度は低下しません。これは、厳密に定義された数値が伝播する独自の不確実性を持たないからです。係数のすべての桁を必要に応じて利用できます。測定された変換係数は異なります。1983年の光速に関する定義の改定の前、光速自体は測定された量でした。実験的不確実性が付属していて、それを使用する計算は測定された長さと同じように不確実性を受け継いでいました。1983年以降、光速は正確に299,792,458 m/s厳密に定義され、そこから計算されたものに追加の不確実性をもたらしません。教訓は一般的に当てはまります。変換精度を制限する要因は、常に測定入力です。係数が厳密に定義されている場合、保存された定数ではありません。このサイトが使用する非厳密で状況に応じた数値である場合、例えば方法論ページに記載されているカーボン排出係数は最も明白な例ですが、その数字は算術ではなく、実際の精度上限です。

実例：室の測定の変換

巻き尺で測定した室が12.5フィート× 10.25フィート。それぞれ3つと4つの有効数字。長い壁では四分の一インチまで読み取られた巻き尺の一般的で、短い方はやや慎重に測定されました。厳密な係数1フィート= 0.3048 mを使用して各辺をメートルに変換します：

面積の数字は重要なものです。計算機は幸せに11.90244 m²を報告します。8桁の精度。測定品質について意見を持たない浮動小数点の算術から単純に引き継がれました。巻き尺はより短い読み取りで3つの有効数字までしかサポートしなかったため、正直な答えは11.9 m²です。他の5つの桁は算術ノイズで、室についての情報ではありません。

エラーが実際に複合するところ：連鎖的な変換

厳密な係数による単一の乗算はエラーを追加しません。変換の連鎖は精度を失う可能性がありますが、メカニズムは変換自体ではなく、中間段階での四捨五入です。12.5フィートをメートルに変換し、その結果を3.81 mに四捨五入し、3.81 mをミリメートルに変換すると、3,810 mmが得られます。これは12.5フィートを直接ミリメートルに変換する（3,810.0 mm）のと同一に見えます。この場合、中間の四捨五入が適切に丸い数字に落ちたからです。いつもそんなにうまくいくわけではありません。10.25フィートをメートルに先に2つの小数点以下の桁に四捨五入する場合（3.12 m、真の3.1242 mを落とす）、その四捨五入した数字から進んで3.81 m辺で面積を計算すると、面積は3.81 × 3.12 = 11.8872 m²になります。これは完全な精度を運んで最後に一度だけ四捨五入すれば得られる11.90244 m²とは異なる4番目の有効数字です。どちらも3つの有効数字の絶対的な意味で「より間違っていません」（どちらでも11.9 m²）が、不一致は長いチェーンで各追加の四捨五入した中間ステップで増加します。これはまさに、このサイトがすべての係数を完全な浮動小数点精度で保存し、最後の表示段階でのみ四捨五入する理由です。中間では決してしません。

実用的なルール

計算のすべての中間ステップを通して完全な精度を運んでください。最後に、ただ一度、最も精度の低い入力が実際にサポートする有効数字の数に四捨五入してください。8つの小数点以下の桁を表示する単位変換ツールは、特定の入力に対して8つの小数点以下の桁の実世界の精度を主張していません。それは、あなたがいくつの数字を必要とするかを推測することを拒否しています。それはツールの判断ではなく、読者の判断です。