유효숫자 계산기 Qna 관련 답변 8 페이지

2247V를 유효숫자 2개로 계산해야하는데 kV 로바꾸면 2.247kV가됩니다. 그러면 7에서... 이런생각들죠? 계산기가 계산하지 계산하기 어렵다는 핑계도 못대잖아요?)

태그:

... 27이나오는데 공학용계산기로 루트를 풀면 0.5196152.... 으로 나오는데 이건 어떻게 처리해야하나요? 3은 완전수이니 유효숫자 개수 생각하실 때 고려하면...

태그:

... 공학용계산기 저랑 같은 거 쓰시는군요! 반갑습니다. LineIO 방식인 상태에서 SHIFT-MODE-6 순서대로 버튼 눌러주세요. 그 다음 4부터 9까지 중에서 원하는 숫자 하나...

제가 물부피를구하기위해 측정값 2.891g 을 26도의 증류수 밀도인 0.99679g/mL으로 나눴는데요 계산기로 나눠보니 2.900309995... 이렇게 나오는데 유효숫자가 4개잖아요...

태그:

... 5의 경우 앞자리가 홀수면 올리고 짝수면 내립니다. 103.45에서 .. 그럼 103.4가 되어야하는데.. 이상해서 계산기를 두드려보니 103.47이네요. 유효숫자는 4개니까 103.5

... 1 x 10^-7 어디가 틀렸나요 공학용 계산기로 계산해도 4.1*10^(-7) 나오네요. 유효숫자 1자리로 처리하면 반올림해서 4*10^(-7)이 되긴 합니다....

... 0.020 / 8.925 * 100 = 0.22408963585434173669467787114846 (컴퓨터 계산기로 나온 값이에요) 여기서 100 이 유효숫자가 셋자리로 가장 작으니까 답은 0.22까지만 유효숫자네요 이때...

태그:

... 연산에서는 계산기로 계산한 최종 결과 값을 반올림하여 유효숫자를 맞추면 됩니다. 단, 곱셈/나눗셈과 덧셈/뺄셈이 혼합된 연산에서는 곱셈/나눗셈과 덧셈/뺄셈의...

태그:

... 보통 계산기에 쓴 식에서 가장 유효숫자 개수가 적은 것에 맞추면... 값은 맞지만 유효숫자는 답지랑 항상 틀리거든요.. 어떻게 해야 하나요? ㅠ .. 그리고 문제 풀때에.....

태그:

유효숫자 계산 과정에서 질문인데요 학교 시험에서 계산기를 쓰게 되는데 교재에 보니까 우효숫자는 계산을 전부 다 하고 반올림을 하라고 써져있더군요...