유체역학 유효숫자 반올림

유체역학 유효숫자 반올림

작성일 2023.04.13댓글 1건
    게시물 수정 , 삭제는 로그인 필요

제가 과제문제를 풀이하는 와중에 0.00999라는 값이 나왔습니다.


그런데 이 값을 2로 나눈다고 할 때
0.00500으로 표현하고 풀이를 작성하는 것이 올바른 것인지 궁금합니다.

저는 0.004995에서 소수 여섯째 자리에서 오사오입해서
0.00500으로 표현하려고 했습니다.

어떻게 표현하고 풀이를 작성해야 올바른가요?




profile_image 익명 작성일 -

결론부터 말씀드리면 0.00999 / 2 = 0.00500 가 맞습니다.

그런데 그 이유가 자릿수가 아니라 유효숫자의 갯수 입니다.

아시는 바와 같이 유효숫자란 측정치처럼 근사치의 경우에만

유효하며 계산에서 유효숫자를 적절하게 처리하는 규칙입니다.

0.00999 가 근사치이고, 2 는 정확한 수라면,

0.00999 가 유효숫자를 3개 가지고 있기 때문에 나눗셈에서

계산 결과값은 유효숫자가 3개가 되도록 반올림되어야 합니다.

0.004995 => 0.00500

유체역학 문제좀 해결해주세요

... 자꾸 반올림하면 최종값이 많이 틀어질 수 있습니다. 따라서 중간값들은 유효숫자 생각하지 말고 계산해서 마지막에 유효숫자 맞추어 반올림하면 됩니다.

유체역학 문제좀 풀어주세요

... 1236m가 됩니다. 맨 끝에 자리수가 답하고 틀린건 유효숫자 처리하면서 생긴거니까 중간에 반올림 안하고 한번에 식에 다 넣어주면 0.1235m 나올겁니다.