산포도 재기

OpenStax의 주간반은 사분위범위가 26.5점이지만 야간반은 11점뿐입니다.

어느 선생님이 두 반에서 같은 시험을 채점했습니다(지어낸 예). 1반 다섯 명은 70, 75, 80, 85, 90점, 2반 다섯 명은 60, 60, 80, 100, 100점입니다. 두 반 모두 평균이 80점이라서, 평균만 적은 보고서로는 두 반이 똑같아 보입니다. 하지만 1반은 모든 점수가 80점에서 10점 안쪽에 있고, 2반은 다섯 명 가운데 네 명이 80점에서 20점씩 떨어져 있습니다. 1반은 다 같이 같은 수업을 들어도 되겠지만, 2반은 60점을 받은 두 학생과 100점을 받은 두 학생에게 서로 다른 도움이 필요할지도 모릅니다. 선생님에게는 점수가 얼마나 흩어져 있는지 알려 주는 수가 하나 더 필요합니다. 이렇게 변량이 흩어진 정도를 하나의 수로 나타낸 값을 산포도라고 합니다. 아래에서는 범위, 사분위범위, 표준편차를 차례로 구합니다. 뒤에 나오는 OpenStax 교재의 주간반과 야간반은 같은 일을 실제 자료로 보여 줍니다.

범위는 값 두 개만, 사분위수는 가운데 절반을 봅니다

범위는 가장 큰 값에서 가장 작은 값을 빼서 구합니다. 앞의 두 반이라면 90 − 70 = 20점과 100 − 60 = 40점입니다. 구하기는 쉽지만 값 두 개에만 기대고, 그 두 값은 자료에서 가장 덜 전형적인 값일 때가 많습니다. 사분위수를 쓰면 이 약점이 줄어듭니다. 먼저 자료를 정렬해 중앙값을 찾는데, 이 중앙값을 Q2라고도 부릅니다. 아래쪽 절반의 중앙값이 제1사분위수 Q1, 위쪽 절반의 중앙값이 제3사분위수 Q3입니다. n이 홀수이면 OpenStax 교재는 중앙값을 어느 절반에도 넣지 않습니다. 자료의 약 4분의 1이 Q1 이하에, 약 4분의 3이 Q3 이하에 있습니다. 사분위범위 IQR = Q3 − Q1은 자료의 가운데 절반이 차지하는 폭입니다.

OpenStax 교재는 통계 수업을 듣는 두 반을 비교합니다. 주간반의 다섯 수 요약은 최솟값 32, Q1 56, 중앙값 74.5, Q3 82.5, 최댓값 99이므로 IQR은 82.5 − 56 = 26.5입니다. 야간반은 25.5, 78, 81, 89, 98이고 IQR은 89 − 78 = 11입니다. 범위는 67과 72.5로 두 반 모두 큽니다. 그런데 IQR을 보면 야간반의 가운데 절반이 훨씬 촘촘하게 모여 있습니다. 이 다섯 수를 한 그림에 담으면 상자그림이 됩니다. Q1부터 Q3까지 상자를 그리고 중앙값 자리에 선을 그은 뒤, 가장 작은 값과 가장 큰 값까지 수염을 뻗습니다.

편차를 제곱한 다음에 평균을 내는 까닭

표준편차는 범위나 IQR과 달리 모든 변량을 계산에 씁니다. 출발점은 편차입니다. 그런데 편차는 더하면 늘 0이 되니 그대로는 쓸 수 없습니다. 그래서 편차를 제곱해 모두 양수로 만든 다음 평균을 내고, 원래 단위로 돌아오도록 제곱근을 씌웁니다. 표본이라면 OpenStax 교재는 제곱의 합을 n이 아니라 n − 1로 나누고, 이렇게 얻은 값을 표본 표준편차 s라고 합니다. 쪽지 시험 점수 6, 8, 9, 7, 10(평균 8)의 편차는 −2, 0, 1, −1, 2이고 제곱의 합은 10입니다. 표본 분산은 10 ÷ 4 = 2.5, s = √2.5로 약 1.58점입니다. n − 1 대신 n으로 나누면 모집단의 값 σ = √2, 약 1.41이 나옵니다. 중학교 수학에서 배우는 분산은 이쪽, 편차 제곱의 평균입니다. 앞의 두 반에 s를 구하면 1반은 약 7.91점, 2반은 딱 20점입니다.

s를 대충 읽는 방법이 있습니다. 종 모양 자료라면 값의 약 3분의 2가 평균에서 표준편차 1개 거리 안에, 약 95%가 2개 거리 안에 있습니다. 모든 변량에 같은 수를 더하면 값이 함께 움직이므로 IQR도 s도 그대로입니다. 모든 변량을 2배 하면 둘 다 2배가 됩니다. 표준편차도 평균처럼 저항성이 없어서, 극단적인 값 하나가 s를 크게 부풀릴 수 있습니다. IQR은 그런 값을 거의 알아채지 못합니다.