binary1 [JS] 0.1 + 0.2 !== 0.3 인 이유 이전부터 한 번은 정리해서 올리려고 했던 주제인데, 이제서야 글을 써 본다. 대부분의 컴퓨터 프로그래밍 언어에서 0.1 + 0.2 를 연산하면 정확한 값인 0.3 이 나오지 않는다. 대신, 근사값인 0.30000.... x 가 나오는 것을 확인할 수 있다. 사람보다 더욱 정확한 연산을 하는 컴퓨터가 이런 오차를 출력하다니, 이상한 일이다. 하지만 이는 컴퓨터가 데이터를 저장하는 방법이 사람이 연산을 하는 방법과 다르기 때문에 생기는 현상이다. 즉, 오히려 컴퓨터가 연산을 너무 정확하게 하기 때문에 발생하는 side effect 인 것이다. 컴퓨터의 숫자 체계 모든 컴퓨터들은 자료를 비트와 바이트 (bit & byte)에 저장한다. 비트는 컴퓨터에서 사용하는 가장 작은 데이터 단위이다. 하나의 비트는 2진.. 2022. 1. 9. 이전 1 다음
