과학적 실험 등에서 일반적으로 사용되는 개념으로서 "유효 숫자(Significant figures)" 라는 것이 있습니다. 계산기에도 "유효 숫자 (Significant Digits)"라는 유사한 용어가 있습니다만, 앞서 설명한 과학적(또는 수학적) 용어로서의 유효 숫자와는 개념이 다릅니다. 한글로 표현되는 이름만 같고 다른 용어라고 생각하시는게 좋습니다.

계산기에서는 어떠한 숫자(또는 계산 결과)가 정확한 값(Exact Number)과 구별되는 근사값(Approx Number)으로 인식될 때, 최대의 유효한 자릿수(10개~15개, 계산기마다 다름)만 남고, 나머지는 버려집니다. (헷갈리신다면 계산상 최대 자릿수로 이해하셔도 됩니다)

이 유효한 자릿수는 고정된 최대 자릿수만 있을 뿐이어서, 과학분야에서처럼 수식 내에서 가장 작은 유효 자릿수를 따라간다거나 하지는 않습니다.

예시 1)

1.9*10^27 + 5 = ? 

참 값 = 1900000000000000000000000005 (정수)

이 값은 과학적 표기로 바꾸면 1.900000000000000000000000005 × (10^27) 입니다. 
(1에서부터 마지막 5까지 정수 자릿수 27자리)

이 값은 유효숫자가 계산기가 허용하는 최대 자릿수보다 크기 때문에, (꼬리가 짤린) 1.9000000000000 × (10^27) 만 계산기의 메모리에 저장됩니다. 

• 저장되는 유효숫자의 갯수는 계산기마다 다릅니다.
•   정수(exact integer)와 소수(부동소숫점)의 유효자릿수가 다른 계산기도 있습니다. ([TI-nspire] 등)

예시 2)

(1.9×10^^(-27)) + 5 = ? 

참값은 5.0000000000000000000000000019 이지만, 최대 자릿수 제한으로 (꼬리가 짤린) 5.0000000000000 정도만 메모리에 저장이 됩니다. 

예시 3) 

(1.9 × 10^{^27} +5 ) - (1.9 × 10^{^27}) = ?

당연히 5가 답으로 나와야 하지만, 실제로는 0이 나오게 됩니다. 
수식의 계산 순서를 바꾸면 다시 5가 나오기도 하구요. 

└ [TI-nspire]

└ [fx-570 ES]