소수의 반올림

7.2649를 소수 둘째 자리까지 반올림하면 7.26입니다. 둘째 자리 바로 뒤의 숫자가 4이기 때문입니다.

1만 원을 셋이 나누면 1원이 모자랍니다

먼저 지어낸 문제 하나입니다. 친구 셋이 택시비 10,000원을 똑같이 나눕니다. 계산기는 한 사람에 3,333.333…원이라고 합니다. 3분의 1원을 낼 수는 없으니 한 사람 몫을 3,333원으로 반올림합니다. 세 사람 몫을 더하면 9,999원입니다. 마지막 1원은 어디로 갔을까요? 답을 생각해 두세요. 아래 「반올림한 퍼센트의 합」 부분에서 다시 나옵니다.

남길 자리 바로 다음 숫자 하나가 정합니다

계산기로 나눠 보니 한 사람 몫이 17.3333333달러로 나왔습니다. 하지만 3분의 1센트를 내는 사람은 아무도 없습니다. 반올림은 중요한 자리의 숫자만 남기고 나머지 숫자를 버리는 방법입니다. OpenStax 규칙은 네 단계입니다. 먼저 반올림할 자리를 찾고, 그 자리 바로 오른쪽에 있는 숫자를 봅니다. 그 숫자가 5 이상이면 반올림할 자리에 1을 더하고, 5보다 작으면 그대로 둡니다. 마지막으로 반올림한 자리의 오른쪽에 있는 숫자를 모두 지웁니다. 그래서 17.3333을 가장 가까운 센트 단위(소수 둘째 자리)로 반올림하면 17.33이 됩니다.

7.2649라는 수로 해 봅시다. 소수 둘째 자리까지 반올림하면 둘째 자리 숫자는 6, 그다음 숫자는 4이므로 6을 그대로 두어 7.26입니다. 첫째 자리까지 하면 첫째 자리 숫자 2 다음이 6이므로 2가 3이 되어 7.3입니다. 일의 자리까지 반올림할 때는 첫째 자리에 있는 2를 보고 7이 됩니다. 언제나 정한 자리 바로 다음에 오는 숫자 하나만 봅니다. 맨 끝에 있는 9가 앞쪽 자리로 번져 오지는 않습니다.

받아올림이 여러 자리로 이어질 수도 있습니다. 예를 들어 3.996을 소수 둘째 자리까지 반올림하면, 둘째 자리의 9에 1을 더해 10이 되고, 0을 쓰고 첫째 자리로 올립니다. 그러면 첫째 자리의 9도 10이 되어 다시 일의 자리로 올라갑니다. 답은 4.00입니다. 둘째 자리까지 구하라고 했다면 끝의 0 두 개를 남겨 둡니다. 그 0들이 이 숫자가 어느 자리까지 정확한지 보여 주기 때문입니다.

중간이 아니라 마지막에 반올림합니다

계산 도중에 너무 일찍 반올림하면 작은 오차가 쌓입니다. 도매가로 하나에 2.346달러인 물건 3개를 산다고 해 봅시다. 하나하나를 먼저 2.35로 반올림한 뒤 3을 곱하면 7.05입니다. 먼저 곱하면 3 × 2.346 = 7.038이고, 반올림해서 7.04입니다. 겨우 1센트 차이지만, 같은 습관을 그대로 두면 물건이 1000개라면 1000 × 2.35 = 2350과 1000 × 2.346 = 2346으로 4달러가 벌어집니다.

반올림한 퍼센트의 합이 100이 아닐 수 있습니다

어떤 것을 셋으로 똑같이 나누면 한 몫은 1/3, 약 33.3%입니다. 세 몫을 더하면 100%가 아니라 99.9%입니다. 그래프나 설문 결과의 합이 99%나 101%로 나오는 것은 다른 까닭 없이 이것 하나 때문인 경우가 많습니다. 빠진 것은 하나도 없고, 반올림한 숫자 하나하나가 조금씩 줄거나 늘었을 뿐입니다. 택시비 문제의 1원도 같습니다. 3,333.333…원을 3,333원으로 내리면서 한 사람마다 3분의 1원씩, 세 번 빠졌습니다.

파이썬의 round(2.5)와 자바스크립트의 1.005

위의 규칙은 딱 절반이면 올립니다. 2.5는 3이 됩니다. 그런데 모든 도구가 이 규칙을 따르지는 않습니다. 프로그래밍 언어 파이썬에서 round(2.5)는 2입니다. 파이썬은 절반을 가장 가까운 짝수 쪽으로 보내는데, 이 방식은, 많은 수를 더할 때 합이 한쪽으로 쏠리지 않게 해 줍니다. 자바스크립트에는 또 다른 뜻밖의 결과가 있습니다. (1.005).toFixed(2)가 1.00이 됩니다. 컴퓨터가 1.005를 이진수로 저장하면 1.005보다 아주 조금 작아지기 때문입니다. 숙제를 하거나 가게에서 계산할 때는 「5 이상이면 올림」 규칙을 씁니다.