변환기는 입력값이 얼마나 정확한지 알 수 없습니다
단위 변환기에 "12.5"를 입력하면 배배에 저장된 인수를 배정밀도 정확도의 15~16자리까지 곱한 후, 그 결과를 소수점 이하 여러 자리로 형식화하여 반환합니다. 이 산술 연산 자체에는 잘못된 것이 없습니다. 문제가 될 수 있는 것은 변환기가 "12.5"가 정확히 12.500000…을 의미하는지, 아니면 테이프 자로 측정한 값으로 3개의 유효숫자만큼만 정확한지 알 수 없기 때문에 출력값을 입력값보다 더 신뢰할 만하다고 취급하는 것입니다. 본 사이트의 방법론 페이지에는 표시 정책이 명시되어 있습니다. 소수점 이하 최대 8자리, 뒷자리 0 제거, 약 1e-6~1e9 범위 밖의 과학 기수법 표기입니다. 이는 형식 규칙입니다. 특정 입력값에 대해 표시된 숫자 중 어느 것이 의미 있는지에 관해서는 아무것도 말하지 않으며, 이는 원래 측정값을 가진 사람만이 판단할 수 있습니다.
"유효숫자"가 실제로 세는 것
유효숫자는 측정량에 대한 실제 정보를 담고 있는 자리수이며, 그 숫자의 크기만 나타내는 자리수와는 다릅니다. 0.0250에서 앞의 두 개의 0은 유효하지 않습니다. 이들은 소수점만 나타낼 뿐입니다. 그러나 5 다음의 뒷자리 0은 유효합니다. 왜냐하면 누군가가 그것을 의도적으로 썼다는 것은 그 값이 네 번째 자리까지 정확하다는 뜻이지, 예를 들어 반올림되지 않은 0.02라는 뜻은 아니기 때문입니다. 소수 표기법이 없을 때 모호함이 생깁니다. "200 kg"은 3개의 유효숫자로 정확히 알려진 값일 수도 있고, 1개의 유효숫자만큼만 알려진 대략적인 값일 수도 있습니다. 과학 기수법은 이러한 모호함을 즉시 제거합니다. 2 × 10² kg 대 2.00 × 10² kg은 오독할 수 없습니다.
연산에 따른 두 가지 다른 규칙
측정량을 결합할 때 정밀도의 손실은 그 연산이 곱셈/나눗셈인지 아니면 덧셈/뺄셈인지에 따라 달라지며, 잘못된 규칙을 적용하는 것은 흔한 오류입니다:
- 곱셈과 나눗셈(모든 단위 변환이 이에 해당합니다): 결과는 가장 부정확한 입력값보다 많은 유효숫자를 가질 수 없습니다. 3개의 유효숫자로 알려진 길이를 다른 단위로 변환하면 산술 연산이 생성하는 자릿수가 아무리 많아도 여전히 3개의 유효숫자의 실제 정보를 가집니다.
- 덧셈과 뺄셈: 결과는 가장 부정확한 입력값보다 많은 소수점 이하 자리를 가질 수 없으며, 이는 유효숫자 개수와 무관합니다. 12.5 m + 0.084 m은 첫 번째 항에 의해 소수점 이하 한 자리로 제한되어 12.6 m이지, 12.584 m이 아닙니다.
단위 변환은 항상 첫 번째 경우입니다: 값 × 인수. 인수 자체의 정밀도도 중요하며, 이곳이 "정의상 정확함"이 중요해지는 지점입니다.
정의상 정확한 인수는 유효숫자를 감소시키지 않으며, 측정된 인수는 감소시킵니다
정의상 정확한 변환 인수로 곱하기 (1 인치 = 2.54 cm 정확, 1 파운드 = 0.45359237 kg 정확)는 정밀도를 저하시키지 않습니다. 왜냐하면 정의상 정확한 숫자는 자체 불확실성이 없기 때문이며, 그 인수의 모든 자리수는 필요하다면 사용할 수 있습니다. 측정된 변환 인수는 다릅니다. 1983년 미터를 빛의 속도로 재정의하기 전에, 빛의 속도 자체는 실험적 불확실성이 부여된 측정량이었으며, 이를 사용한 모든 계산은 측정된 길이에서 상속받을 수 있는 것처럼 같은 방식으로 불확실성을 상속받았습니다. 1983년 이후로는 빛의 속도가 정의상 정확히 299,792,458 m/s로 고정되어 있으며, 그것으로부터 계산된 어떤 것에도 추가적인 불확실성을 기여하지 않습니다. 이 원리는 일반화됩니다: 변환의 정밀도를 제한하는 요소는 거의 항상 저장된 상수가 아니라 측정된 입력값입니다. 다만 그 상수가 정말로 정확해야 한다는 조건이 있습니다. 본 사이트가 정확하지 않은, 상황에 따라 달라지는 숫자를 사용할 때 (방법론 페이지에 기록된 탄소 배출 인수가 가장 명확한 예)는 그 숫자가 산술이 아니라 실제 정밀도 상한입니다.
실제 예: 방 측정 변환
테이프 자로 측정한 방, 12.5 ft × 10.25 ft - 각각 3개와 4개의 유효숫자로, 이는 더 긴 벽에서는 가장 가까운 1/4인치까지 읽고 더 짧은 벽은 약간 더 조심스럽게 측정한 것이 일반적입니다. 정확한 인수 1 ft = 0.3048 m을 사용하여 각 변을 미터로 변환하면:
| 측정값 | 유효숫자 | 계산 결과 | 올바르게 반올림된 값 | 거짓으로 정확한 (일반적인 계산기 표시) |
|---|---|---|---|---|
| 12.5 ft × 0.3048 | 3 | 3.81 m | 3.81 m | 3.81000000 m |
| 10.25 ft × 0.3048 | 4 | 3.1242 m | 3.124 m | 3.12420000 m |
| 넓이: 3.81 m × 3.124 m | 3 (3개의 유효숫자 변에 의해 제한됨) | 11.90244 m² | 11.9 m² | 11.90244000 m² |
넓이 수치가 중요한 것입니다. 계산기는 11.90244 m²을 기꺼이 보고할 것이며, 이는 8자리의 정밀도를 상속받습니다. 그것은 측정 품질에 대한 의견이 없는 부동소수점 산술에서 나온 것입니다. 테이프 자는 더 짧은 측정에 대해 3개의 유효숫자 이상을 절대 지원하지 않으므로, 정직한 답은 11.9 m²입니다. 다른 5개의 자리수는 산술 오류이지, 방에 대한 정보가 아닙니다.
오차가 실제로 누적되는 곳: 연쇄 변환
정확한 인수로의 단일 곱셈은 오차를 추가하지 않습니다. 변환의 연쇄는 여전히 정확도를 잃을 수 있지만, 그 메커니즘은 변환 자체가 아니라 중간 단계의 반올림입니다. 12.5 ft을 미터로 변환하고, 그 결과를 3.81 m으로 반올림한 다음, 3.81 m을 밀리미터로 변환하면 3,810 mm를 얻습니다. 이는 12.5 ft를 바로 밀리미터로 변환하는 것(3,810.0 mm)과 똑같아 보입니다. 왜냐하면 이 경우 중간 반올림이 우연히 정수에 해당하기 때문입니다. 그것이 항상 그렇게 깔끔하게 작동하지는 않습니다. 10.25 ft를 미터로 소수점 2자리로 먼저 반올림하면 (참 3.1242 m을 떨어뜨려 3.12 m), 그런 다음 그 반올림된 숫자를 3.81 m 변과의 넓이 계산에 사용하면 넓이는 3.81 × 3.12 = 11.8872 m²이 됩니다. 이는 전체 정밀도를 수행하고 끝에만 한 번 반올림하여 얻은 11.90244 m²과 다른 4번째 유효숫자입니다. 어느 숫자도 3개의 유효숫자에서 절대적 의미로 "더 틀린" 것은 아닙니다 (어느 쪽이든 11.9 m²). 하지만 더 긴 연쇄에서 각 추가 반올림 중간 단계마다 불일치가 커집니다. 이것이 정확히 본 사이트가 모든 인수를 전체 부동소수점 정밀도로 저장하고 중간에는 절대로 반올림하지 않고 최종 표시 단계에서만 반올림하는 이유입니다.
실제 규칙
계산의 모든 중간 단계를 통해 전체 정밀도로 계산하고, 끝에서 정확히 한 번만, 당신의 가장 부정확한 입력값이 실제로 지원하는 유효숫자의 개수로 반올림합니다. 소수점 이하 8자리를 표시하는 변환기는 당신의 특정 입력에 대해 소수점 이하 8자리의 실제 정확도를 주장하는 것이 아닙니다. 그것은 그 숫자 중 몇 개가 필요한지 추측하기를 거부하는 것이며, 이는 도구의 판단이 아니라 독자의 판단입니다.