[공학용 계산기] 화면에는 안보이는 하위 자릿수 확인하기
-
- 2024.09.27 - 15:07 2015.10.14 - 12:31 2963 10
공학용 계산기는 내부적으로 계산에 사용하는 (유효)숫자와 외부화면상에 보여주는 숫자의 자릿수 차이가 있습니다. 내부적으로 계산에 사용하는 (유효)숫자는 대략 12자리~15자리로 계산기마다 차이가 있습니다. 자릿수가 많을수록 계산 결과가 더 정확해 지지만, 그 댓가로 계산 속도를 잃고 더 많은 메모리가 필요하게 됩니다. 그래서 적당한 수준에서 내부적 유효숫자를 cut 하여 정해놓습니다.
계산기에서 결과 화면상에 보이지 않는 추가적인 자릿수의 숫자를 확인하는 방법을 살펴보겠습니다.
원리는 간단합니다. 안보이는 쪽은 숫자의 오른쪽이므로, 왼쪽을 하나씩 없애면 오른쪽이 하나 보이는 겁니다.
예시)
[CASIO fx-350 ES] 에서 log(1.23) 을 구하면 소숫점11자리까지만 나옵니다.
(자릿수 표시 설정 : Norm1 혹은 Norm2 인 경우)
정수부분이 없으므로, 적당히 10n 을 곱해서 소수부분을 정수로 만들고, 그 정수부분을 없애보겠습니다.
여기서 정수부분을 빼줍니다.
그러면 안보이던 뒷부분(393979)이 드러나게 되는 것이죠.
같은 과정을 한번 더 하더라도 추가 자릿수는 나오지 않습니다.
(이미 계산기 내부의 유효 계산 자릿수를 다 확인하였기 때문입니다)
확인한 값을 연결하여
최종 상용로그값 log(1.23) = 0.089951114393979 (유효숫자 14자리) 값을 구할 수 있게 되었습니다.
주의
여러 단계의 계산인 경우에는 계산 과정중에 발생하는 오차가 확인하려고 하는 유효자릿수보다 클 수 있습니다. 그럴 때는 위의 방법으로 확인한 최종 결과값을 그대로 믿어서는 안됩니다.
따라서 결과값을 검토할 수 있다면 검토해서 사용하시고, 검토할 수 없다면 (틀린 결과일 수 있다는 가능성에) 주의해서 사용하시기 바랍니다. 그것이 중요한 의미를 갖는 계산일 때에는 wolfram alpha 사이트를 이용해서 계산하시는게 좋습니다.
-
25
댓글10
-
세상의모든계산기
https://kin.naver.com/qna/detail.naver?d1id=4&dirId=40402&docId=466406476&qb=6rOE7IKw6riw&enc=utf8§ion=kin.qna.all&rank=1&search_sort=3&spq=0
24*1.08^395
= 3.8246760741742144333298134773137547925018381087460557669889902692740302835543440552895098678257447980746108101685223968853... × 10^14
https://www.wolframalpha.com/input?i=24*1.08%5E395
-
-
세상의모든계산기
계산기별 유효 하위 자릿수 확인 방법은? 예상했던 것과 결과가 다른 이유는?
ㄴ fx-991ES PLUS C Emulator
10^1 이면 2자리, 10^11 이면 12자리.
1/10 = 0.1 = 1.0 * 10^(-1) 1자리 아닌가? 이것도 2자리로 들어가나?(100,000,000,000 + 0.1) - 100,000,000,000 = 100,000,000,000.1 - 100,000,000,000 = 0.1
(1,000,000,000,000 + 0.1) - 1,000,000,000,000 = 1,000,000,000,000. - 1,000,000,000,000 = 0
이렇게 됐다는 말인데...
그럼 내부 유효 자릿수가 최대 13이라는 거 아닌가? 14로 알고 있었는데?
부동소숫점 처리가 되면 ×10^(m) 으로 바뀌면서 m(exponent) 도 자리를 차지하게 되는 건가?
-
-
-
세상의모든계산기
EL-W506T PC Emulator
설명서 EL-W506T EL-W516T MODEL EL-W516XG
-
-
세상의모든계산기
fx-570 ES Plus - Norm(1, 2)에서
2,786,774.58 + 152,529,503.4 = 155316277.98 이지만
ㄴ 강제로 소숫점 단위가 반올림되는 이유는?
ㄴ fx-570 ES Plus 설명서 중 발췌
설명서에 나온 것처럼 내부에 저장된 값과 관계없이,
인수가 10자리 수로(?) 반올림되기 때문입니다.
155316277.98 에서 8이 반올림 되는 것인데
그 결과
155316278.0 이 되고 (Norm에서) .0을 표시하지 않는 내부 구조상
155316278 만 남게 되는 것입니다.
세상의모든계산기 님의 최근 댓글
엑셀 파일로 만드니 전체 160~200MB 정도 나옵니다. 읽고 / 저장하는데 한참 걸리네요. 컴 사양을 좀 탈 것 같습니다. -> 엑셀/한셀에서 읽히지만, 구글 스프레드시트에서는 열리지 않네요. 100만 개 단위로 끊어서 20MB 정도로 분할해 저장하는 편이 오히려 속 편할 것 같습니다. -> 이건 구글 스프레드시트에서도 열리긴 하네요. (약간 버퍼링?이 있습니다) 2026 02.10 엑셀 / 행의 최대 개수, 열의 최대 개수, 셀의 최대 개수 엑셀의 행 개수 제한은 파일 형식에 따라 다르며, 최신 .xlsx 파일 형식은 시트당 최대 1,048,576행까지 지원하지만, 구형 .xls 파일은 65,536행으로 제한됩니다. 따라서 대용량 데이터를 다룰 때는 반드시 최신 파일 형식(.)으로 저장해야 하며, 행과 열의 총 수는 1,048,576행 x 16,384열이 최대입니다. 주요 행 개수 제한 사항: 최신 파일 형식 (.xlsx, .xlsm, .xlsb 등): 시트당 1,048,576행 (2^20). 구형 파일 형식 (.xls): 시트당 65,536행 (2^16). 그 외 알아두면 좋은 점: 최대 행 수: 1,048,576행 (100만여개) 최대 열 수: 16,384열 (XFD) 대용량 데이터 처리: 65,536행을 초과하는 데이터를 다루려면 반드시 .xlsx 형식으로 저장하고 사용해야 합니다. 문제 해결: 데이터가 많아 엑셀이 멈추거나 오류가 발생하면, 불필요한 빈 행을 정리하거나 Inquire 추가 기능을 활용하여 파일을 최적화할 수 있습니다. 2026 02.10 [일반계산기] 매출액 / 원가 / 마진율(=이익율)의 계산. https://allcalc.org/20806 2026 02.08 V2 갱신 (nonK / K-Type 통합형) 예전에는 직접 코드작성 + AI 보조 하여 프로그램 만들었었는데, 갈수록 복잡해져서 손 놓고 있었습니다. 이번에 antigravity 설치하고, 테스트 겸 새로 V2를 올렸습니다. 직접 코드작성하는 일은 전혀 없었고, 바이브 코딩으로 전체 작성했습니다. "잘 했다 / 틀렸다 / 계산기와 다르다." "어떤 방향에서 코드 수정해 봐라." AI가 실물 계산기 각정 버튼의 작동 방식에 대한 정확한 이해는 없는 상태라서, V1을 바탕으로 여러차례 수정해야 했습니다만, 예전과 비교하면 일취월장 했고, 훨씬 쉬워졌습니다. 2026 02.04 A) 1*3*5*7*9 = 계산 945 B) √ 12번 누름 ㄴ 12회 해도 되고, 14회 해도 되는데, 횟수 기억해야 함. ㄴ 횟수가 너무 적으면 오차가 커짐 ㄴ 결과가 1에 매우 가까운 숫자라면 된 겁니다. 1.0016740522338 C) - 1 ÷ 5 + 1 = 1.0003348104468 D) × = 을 (n세트) 반복해 입력 ㄴ 여기서 n세트는, B에서 '루트버튼 누른 횟수' 3.9398949655688 빨간 부분 숫자에 오차 있음. (소숫점 둘째 자리 정도까지만 반올림 해서 답안 작성) 참 값 = 3.9362834270354... 2026 02.04