부동소수점 e 질문

부동소수점 e 질문

작성일 2023.08.11댓글 1건
    게시물 수정 , 삭제는 로그인 필요

문제가 Top10perc의 t 값을 구하는 건데

Coefficients:
   Estimate   Std.Error
 (Intercept)  3.154e-01   2.456e+00 
 PrivateYes  3.556e+00  1.855e+00 
 Top10perc  7.853e-01  6.537e+00
Outstate 1.579e-01 1.775e-02

그러면은 7.853e-01 / 6.537e+00 을 계산해야 하잖아요.
7.853e-01 은 0.7853 인건 아는데 6.537e+00은 어떻게 계산해야 하나요? +00은 10의 0승이 맞나요?


#부동소수점 덧셈 #부동소수점 e #부동소수점 덧셈 계산기 #부동소수점 단점 #부동소수점 덧셈 과정에서 필요하지 않은 연산 #부동소수점 단정도 #부동소수점 덧셈기 하드웨어 #부동소수점 덧셈 하드웨어 #부동소수점 데이터 형식 #부동소수점 e 계산

profile_image 익명 작성일 -

6.537e+00 = 6.537

e+00은 10의 0승이 맞습니다

IEEE754 부동소수점 질문

2진수 0.1011x2^5 을 32비트 IEEE 754 부동소수점 형식으로 표현하면 어떻게 되나요? 저대로 바로 표현 하는지 1.011x2^4 로 바꿔서 표현하는지 헷갈리는데...

부동소수점 IEEE 754 문제 질문

... (+46.5)10을 24비트의 부동 소수점 이진수로 나타내어라. 가수는 16비트의... 질문하신 풀이는 정확합니다. 답지에서.. 24bit 가수값은 정규화 표현에서 정수부...

단정도 부동소수점 질문

다음 단정도 부동소수점 숫자의 값을 2진수 지수와 가수 형태로 변환하라. A. 1 10000001 01001001110001000000000 B. * ********...

부동소수점 질문

-0.75를 부동소수점 표현하는데 왜 2^(-1+127)+127인지 이해가 가질않습니다. https://t.hi098123.com/IEEE-754 설명 읽어보시고 몇번 써보면 이해될겁니다.

부동소수점 표현

32.25를 부동 소수점으로 표현을 하게 되면 아래의... 2^e-127 = 2^5-127 이 공식이 왜 적용 되어야 하는지도... 이해 안되는게 있으시면 추가질문하셔도 됩니다. https...

컴퓨터 부동소수점 질문

컴퓨터가 부동소수점을 저장하는 방식이] 소수를 이진법화 시킨후에 이진법을 지수와 가수 형태로 만들어서 따로 저장하는 거잖아요ㅕ?\ 근데 왜 이진법화를...