자바 소수 표현 방법 부동 소수점의 필요성 - float point

자바 소수 표현 방법 부동 소수점의 필요성 - float point

자바 소수 표현 방법 부동 소수점의 필요성 - float point

실수는 소수점을 가지고 있다. 이것을 포인트(point)라고 부른다. 14.634라는 값이 있다면 14.는 정수부에 해당하고 634는 소수부에 해당한다. 이렇게 정수부와 소수부의 비트 크기를 고정하면 표현할 수 있는 값의 크기가 작아지는 문제를 만나게 된다.

32비트 고정 소수점 자료형이 있다고 가정하자. 1비트는 부호부에서 가져가고 소수부에서 24비트를 사용한다면 정수 표현을 위해서 사용할 수 있는 비트는 고작 7비트에 불과하다. 7비트는 2의 7승으로, 표현할 수 있는 양수 정수의 크기는 0 ~ 127까지이다. 소수부에서 비트를 떼온다고 하더라도 이 경우 표현할 수 있는 소수의 크기가 작아지는 문제를 만나게된다. 이러한 문제점은 공학 연산에서 두드러지는데 컴퓨터는 범용적인 계산 도구이고 이런 컴퓨터는 사용하는 분야는 하나가 아니기에 소수점 자리수를 고정하기 어려운 문제가 있다.

32비트 고정 소수점 자료형

from http://tamagotch.tistory.com/28 by ccl(A) rewrite - 2021-12-22 08:02:12