부동소수점 변수의 정확도

부동소수점 연산은 오버플로우 에러의 가능성이 낮다는 장점이 있다. 부동 소수점 변수의 정확도를 알기 위해서 간단한 테스트를 해보았다. 32비트의 float형 변수와64비트의 double형 변수의 정확도를 알아보기 위해서값을 입력한 뒤에 어느 숫자부터 부정확해지는지 알아보도록 하였다. 테스트 코드는 다음과 같다. #include int main (void) { float f = 1.123456789123456789; double d = 1.123456789123456789; printf("Original:\t1.123456789123456789\n"); printf("float:\t\t%2.20f\ndouble:\t\t%20.20f\n",f,d); return 0;} 위 파일을 실행시켜보았을 때에 다음과 ..

2014.09.18