[JS] 0.1 + 0.2 !== 0.3 인 이유

이전부터 한 번은 정리해서 올리려고 했던 주제인데, 이제서야 글을 써 본다. 

 

대부분의 컴퓨터 프로그래밍 언어에서 0.1 + 0.2 를 연산하면 정확한 값인 0.3 이 나오지 않는다. 대신, 근사값인 0.30000.... x 가 나오는 것을 확인할 수 있다. 

Node.js 의 결과값

python 결과값

사람보다 더욱 정확한 연산을 하는 컴퓨터가 이런 오차를 출력하다니, 이상한 일이다. 하지만 이는 컴퓨터가 데이터를 저장하는 방법이 사람이 연산을 하는 방법과 다르기 때문에 생기는 현상이다. 즉, 오히려 컴퓨터가 연산을 너무 정확하게 하기 때문에 발생하는 side effect 인 것이다. 

 

컴퓨터의 숫자 체계 

모든 컴퓨터들은 자료를 비트와 바이트 (bit & byte)에 저장한다. 비트는 컴퓨터에서 사용하는 가장 작은 데이터 단위이다. 하나의 비트는 2진수 1 또는 0으로 표현되어 데이터를 처리, 저장, 전송 할 때 사용된다. 하나의 바이트는 8개의 비트로 구성되어 있기 때문에, 흔히 말하는 "8비트", "16비트" 등의 표현은 "1바이트", "2바이트" 의 표현과 동일하다.

 

컴퓨터 프로그램에 인간이 사용하는 숫자 체계인 10진수를 입력해도, 컴퓨터 메모리에 저장될 때는 64비트의 부동소수점 (floating point) 체계로 저장된다. 무슨 말이냐 하면,

• 정수 (0, 1, 2, -1, -2 등의 자연수)
• 정수가 아닌 유리수 (유한소수, 순환하지 않는 무한소수)
• 순환하는 무한소수,
• n진수 (8진수, 16진수 등)

등 어떠한 숫자를 입력하든, 모든 숫자는 (그리고 모든 데이터 타입은) 64비트짜리 컴퓨터 메모리에 2진수로 저장된다는 것이다. (물론, NaN 과 같이 표현불가능한 결과는 제외한다.) 

 

2진수 빠르게 이해하기

2진수는 기본적으로 2를 밑 (base) 으로 하는 제곱값을 기반으로 연산한다. 지수는 0부터 시작하여 1씩 증가한다. 아래 참고 이미지를 확인하면, 지수가 오른쪽에서 왼쪽 방향으로 1씩 증가하는 것을 확인할 수 있다. 밑인 2에 지수를 제곱한 제곱값을 각각 연산한 뒤, 합산하여 10진수가 나오는 값들을 선별하여 2진수 1로 표기하고, 합산에 포함되지 않는 값들은 0으로 표기한다. 

이렇게 입력하는 10진수는 2진수로 변환되어 처리된다. (14 → 1110, 0.75 → 0.11, 문자의 경우 ASCII 코드) 

참고) 10진수 숫자 10을 2진수로 변환하는 과정

 

그렇다면, 이제 0.1 + 0.2 = 0.3000004 인 이유를 구체적으로 살펴보자. 

 

우리가 일상적으로 보는 숫자는 10진수이지만, 앞서 컴퓨터는 모든 연산을 2진수로 수행한다고 언급했다. 이렇게 2진수로 연산된 수를 Binary Floating Point 라고 한다. 가령 23, 24 등의 10진수 정수는 1의 자리 (10의 0제곱) 와 10의 자리 (10의 1제곱) 가 합산된 값이나, 컴퓨터는 이러한 단위가 10의 제곱이 아닌 2의 제곱이다. 이러한 연산 방법을 사용할 때 정수를 계산하는 것은 큰 문제가 되지 않지만, 소수점은 정확히 떨어지지 않는 문제가 발생한다.

 

예를 들어 정수 10은 2진수로 표현하면 1010 이지만, 10.2를 2진수로 표현하려고 하면 어떨까? 10.2는 10과 0.2 (2/10) 을 합한 값이기 때문에 이 0.2를 2진수로 표현해야 한다. 2진법에서 소숫점을 연산하는 방법도 정수를 연산하는 방법과 크게 다르지 않다. 2에 음의 지수를 사용하여 지수가 1씩 줄어든 제곱값을 합산한다. 

참고) 소수점을 2진수로 표현하는 법

2진법에서의 소숫점의 연산은 2의 제곱값을 분모로 사용한 1/2, 1/4, 1/8 ... 단위로 수행된다. 따라서, 10진수 0.5를 2진수로 표현하면 0.1 이 되는 것이고, 10진수 0.75 는 0.5 + 0.25 인 0.11 이 된다. 

 

그렇다면 0.1과 같은 값은 어떻게 연산할까? 0.1은 2진수 단위의 제곱값들의 조합을 통해 연산을 수행해도 정확히 떨어지는 값을 내기 어렵다. 이런 경우 계속해서 2진수의 소수점을 따라 내려가 연산을 하다가, 무한연산의 굴레에 빠지게 된다. 엄밀히 따지면 10진수 0.1의 2진수 표현값은 0.00011111.... 로 시작하는 무한소수가 되겠지만, 컴퓨터의 비트 수에는 제한이 있다는 것이 중요한 포인트이다. 앞서 기술했듯 비트 하나당 이진수 하나를 표현하기 때문에, 64비트 컴퓨터를 사용한다면 모든 비트를 소수점 표현에 할애한다고 해도 무한소수를 다 담을 수는 없다.

 

따라서 0.1 과 0.2 의 연산 결과가 10진수로는 0.3 이지만, 2진수로 표현할 때는 비트의 한계가 있어 근사값인 0.300000004로 표시하게 되는 것이다. 

 

위의 문제를 부동소수점 체계에서 어떻게 해결하는지 더 자세히 알기 위해서는 부동소수점 체계의 구성 요소에 대해 더욱 자세히 알아야 한다. 흔히 사용되는 32비트 체계를 예시로 들어보겠다. 

32비트 부동소수점 체계 

위의 이미지에 나타나는 요소는 크게 3가지가 있다.

• Sign Bit : 해당 숫자가 음수인지 양수인지 표현하는 자리. 0 이면 양 (+), 1 이면 음 (-)
• Exponent : 멱지수 (밑은 10) 
• Mantissa : 실제 표현될 숫자의 값 또는 숫자의 범위 

32비트 컴퓨터라면 Sign 1비트 + Exponent 8비트 + Mantissa 23비트로 구성된다. 여기서 일반적인 정수 연산 또는 소숫점 연산을 수행하는 비트는 Mantissa 이기 때문에, 32비트 체계에서 표현할 수 있는 단일 숫자값은 최대 2^23 (8388608) 이다.

 

예시로, - 0.12345 를 2진수로 표현한다고 해보자. 해당 숫자의 Sign 비트는 1일 것이고, Mantissa 는 12345 에 해당하는 2진수를 표현할 것이다. 그리고 Exponent 에서 10의 멱지수를 5로 표현하여, Mantissa 에서 10^5 의 자리만큼 이동해야 함을 표기할 것이다. (Exponent 의 첫 번째 자리도 Sign 비트이기 때문에, 해당 멱지수가 음수인지 양수인지 판단할 수 있다) 이러한 조합을 통해 부동소수점의 표현이 완성된다. 

 

참고) 64비트 부동소수점 체계 

 

재미있는 사실 하나는, JavaScript 에는 Infinity, -Infinity 라는 특별한 값들이 있는데, 이는 위의 부동소수점 숫자의 한계 (최대/최솟값) 를 넘어가는 숫자를 의미하는 것이다. 

 

 

참고자료

https://ko.wikipedia.org/wiki/%EC%8B%AC%EB%B3%BC_%ED%85%8C%EC%9D%B4%EB%B8%94

https://en.wikibooks.org/wiki/A-level_Computing/AQA/Paper_2/Fundamentals_of_data_representation/Floating_point_numbers