영상 후기 - 부동소수점 (+ 실수계산 오차가 생기는 이유)

• 10진법으로 1/3 은 무한 소수가 된다.
• 마찬가지로 2진법을 기반으로 하는 컴퓨터 언어에서는 0.1이 무한 소수이다.
• 따라서, 0.1 + 0.2 = 0.30000000004(대략적인 형태) 로 나온다.

int

• 32 bit 사용
• (+ , -)를 표시하는 부호 1 bit + 숫자 크기 31 bit를 사용한다.
• 따라서 범위 : -2^31 ~ 2^31 -1 의 정수(0은 양수쪽에 포함)

고정소수점

• 소수점의 위치가 고정되어 있는 형태
• (+ , -)를 표시하는 부호 1 bit + (정수 부분 +소수 부분) 31 bit 를 사용한다.
• 정수 부분과 소수 부분이 서로에게 제약이 된다.

부동소수점(Floating point)

• 소수점이 이동하는 형태
• (+ , -)를 표시하는 부호 1 bit + (소수점이 움직일 갯수) 8 bit + 숫자 표현 23 bit를 사용한다.
• 32 bit 사용
• IEEE 754 표준을 사용한다.

++라이브러리를 사용하면 정확한 계산(오차 X)를 할 수 있다.