유효숫자 계산 질문

유효숫자 계산 질문

작성일 2024.04.02댓글 1건
    게시물 수정 , 삭제는 로그인 필요

0.1은 유효숫자가 1개입니다. 0.00036은 유효숫자가 2개입니다. 그렇다면 0.1/0.00036 을 계산할 때 답이 277.777777....인데 이 값을 유효숫자를 하나만 가지게 반올림해서 300이라고 써야하나요? 뭔가 이상해서요..


#유효숫자 계산기 #유효숫자 계산법 #유효숫자 계산 예제 #유효숫자 계산 문제 #유효숫자 계산 순서 #유효숫자 계산 예시 #유효숫자 계산 반올림 #유효숫자 계산과정 #유효숫자 계산 루트 #유효숫자 계산 디시

profile_image 익명 작성일 -

질문자님이 풀이가 맞습니다.

전혀 이상하지 않아요.

유효숫자 계산으로는 300이라고 쓰는게 맞습니다.

한번 생각해보세요.

만약 0.1이 실제로는 0.14였다면, 388.888···이 되고,

참값이 0.05였다면, 138.888····이 되기 때문에

십의 자리와 일의 자리 숫자는 아예 믿을수 없는 숫자입니다.

그나마 백의 자리 숫자만 약간의 오차를 가진 상태로 믿을만 하죠.

유효숫자 계산 질문

... 질문자님이 풀이가 맞습니다. 전혀 이상하지 않아요. 유효숫자 계산으로는 300이라고 쓰는게 맞습니다. 한번 생각해보세요. 만약 0.1이 실제로는 0.14였다면, 388.888...

유효숫자 덧셈뺄셈 질문

... 유효숫자 계산이란 측정치와 같은 근사치에만 적용되는 것입니다. (Tf-32°F)×5°C/9°F=Tc 위 식에서 존재하는 32, 5, 9 와 같은 숫자들은 근사치가 아니므로...

일반화학 유효숫자 질문드려요

사진속 유효숫자관련 질문드립니다. 1.첫번째 형광펜 친것처럼 naoh몰을 유효숫자 계산해서 0.00438이 나왔는데 왜 뒤에는 모두 두번째 형광펜처럼 0.004375로 계산하나요?...

유효숫자 간단한 질문

... 따라서 계산결과는 측정값의 유효숫자 개수인 3개에 맞춰 2.01*10^3 입니다. 참고 https://ywpop.tistory.com/3212 제 답변이 도움 되셨다면, 답변을 채택해 주시길...

유효숫자 질문

... 혹시, (5.6 - 5.7)*100 / 5.6 = -1.7857 이 식을 질문하신 건가요? 이게 맞다면 이때 답은 유효 숫자를 고려해 -1.8로 적으시면 됩니다. 왜냐 하면, 계산 결과는 가장 적은...

유효숫자 질문

... 위 계산유효숫자 계산법과 맞지 않습니다. 732.1 - (892.5 / 8.2) = 732.1 - (108.841463) => 732.1 - (1.1 x 10^2) ← * 8.2의 유효숫자가 2개 이므로 = 6.2 x 10^2 ← * 1.1 x 10^2 의...

유효숫자계산질문

... 유효숫자계산하려면 242×453.6=109771.2에서 453.6은 exact number이므로 유효숫자가 3개인 242에 맞춰 결과값의 유효숫자는 3개가되어야합니다. 그런데 9 뒤의 7을...