실수부 오차

실수부 오차
 float : 4byte --> 정수 24bit + 실수 8bit
    7번째 자리까지 신뢰성을 가짐.
 double : 8byte
    14번째 자리까지 신뢰성을 가짐.
    
    
 신뢰성을 가지지 않는 이후의 데이터는 grabagedata

 Ex)

    a = 0.123456789123456789123456789
    b = 0.12345678
    # ==>자신이 처리 가능한 범위를 넘어가는 경우 
    # 1. overflow
    # 2. error
    # 3. 근사값 사용
    # 4. 자신이 사용가능한 최대치까지 사용 후 반올림
    print(a)
    print(b)
    
    출력값 : 0.12345678912345678
             0.12345678

 

위의 예제의 경우 python을 사용했기에 데이터 저장이 double로 되어 다음과 같이 출력이 된다. 

즉, 14번째 이후의 값은 오차가 존재할 수 있다.

 

	print(10/3)

	출력값 : 3.3333333333333335