표본 크기와 중심극한정리

표준편차가 15인 모집단에서 뽑은 값 25개의 평균은 표준오차가 15 ÷ √25 = 3입니다.

민지는 주사위를 다섯 번 굴려 평균 내기를 삼백 번 했습니다

지어낸 이야기입니다. 민지는 주사위 하나와 넉넉한 참을성이 있습니다. 주사위를 다섯 번 굴려 다섯 눈의 평균을 적고, 다시 처음부터 굴립니다. 이렇게 300번을 하면 평균이 300개 생깁니다. 한 번 굴린 눈은 1부터 6까지 같은 가능성으로 나오니, 민지는 평균들도 그만큼 고르게 흩어질 거라고 생각했습니다. 그렇지 않았습니다. 평균의 다섯 개 중 네 개꼴이 2.5와 4.5 사이에 있고, 1.5보다 작거나 5.5보다 큰 평균은 100개 중 1개도 되지 않습니다. 아래 실험실도 같은 실험, 크기 5인 표본 300개에서 시작합니다. 평균들은 왜 가운데로 모이고, 얼마나 모일까요? 실험실의 히스토그램 가운데도 3.5 근처입니다.

설문 조사, 여론 조사, 공장의 품질 검사, 의학 시험은 모두 같은 방식으로 움직입니다. 대상 전부를 재지 않고 일부를 표본으로 뽑아, 그 표본의 평균으로 모집단 전체의 평균을 짐작합니다. 전교생 1,000명의 급식 만족도가 궁금한 학생회가 100명만 무작위로 뽑아 물어보는 것도 같은 방식입니다(지어낸 예). 고등학교에서는 앞의 것을 표본평균, 뒤의 것을 모평균이라고 부릅니다. 표본을 다시 뽑으면 표본평균도 달라집니다. 그러니 물어야 할 것은 표본평균이 표본마다 얼마나 흔들리는지, 그리고 그 흔들림이 표본 크기에 따라 어떻게 달라지는지입니다.

주사위 하나는 평균이 3.5인 평평한 모집단입니다

공정한 주사위 하나는 작은 모집단으로 쓰기 좋습니다. 1부터 6까지 모두 같은 확률로 나오니 평균은 μ = 3.5, 표준편차는 σ = √(35/12), 약 1.708입니다. 평균 3.5는 (1 + 2 + 3 + 4 + 5 + 6) ÷ 6 = 21 ÷ 6으로 구합니다. 분포는 평평해서 종 모양과 닮은 데가 없습니다. 여기서 크기 n인 표본을 뽑는다는 것은 주사위를 n번 굴려 평균을 낸다는 뜻입니다. n = 1이면 표본평균은 한 번 굴린 값이니 분포도 평평합니다. n = 2이면 두 주사위 합을 2로 나눈 값이라 3단원의 천막 모양이 됩니다. n이 5나 10이면 표본평균의 히스토그램은 벌써 3.5 둘레의 매끄러운 언덕이 되고, n이 커질수록 언덕이 좁아집니다. 민지가 본 것이 n = 5일 때의 언덕입니다.

표본평균은 μ 둘레에 σ/√n만큼 퍼져 쌓입니다

OpenStax는 표본평균의 중심극한정리를 이렇게 설명합니다. 평균이 μ, 표준편차가 σ인 모집단에서 크기 n인 표본을 무작위로 뽑으면, 모집단의 분포가 어떤 모양이든 n이 커질수록 표본평균은 평균 μ, 표준편차 σ/√n인 정규분포를 따르는 경향이 있습니다. 이 σ/√n을 평균의 표준오차라고 합니다. OpenStax가 따로 짚는 점도 있습니다. n은 한 표본에서 함께 평균을 내는 값의 개수이지, 표본을 몇 번 뽑았는지가 아닙니다. 표본을 더 많이 뽑으면 히스토그램의 빈 곳이 채워질 뿐이고, 히스토그램을 좁히려면 표본 하나하나를 크게 뽑아야 합니다. 민지의 실험에서 n은 300이 아니라 5입니다. 민지가 300번이 아니라 3,000번을 했더라도 언덕의 폭은 그대로이고, 모양만 더 매끄러워졌을 겁니다.

실제로 중요한 결론은 둘입니다. 첫째, 표본평균은 평균적으로 맞습니다. 표본평균들은 μ보다 한쪽으로 치우치지 않고 μ 둘레에 쌓입니다. 둘째, 정밀도는 n이 아니라 √n에 따라서만 좋아집니다. 주사위라면 표준오차가 한 번 굴릴 때 1.708/√1 = 1.708, 25번 평균이면 1.708/√25 ≈ 0.342, 100번 평균이면 1.708/√100 ≈ 0.171입니다. 표본 크기를 4배로 하면 표준오차가 절반이 되고, 100배로 해야 10분의 1이 됩니다. 여론 조사에서 1,000명 대신 4,000명을 조사해도 오차 범위가 약 0.032에서 약 0.016으로 절반이 될 뿐인 것도 이 때문입니다. OpenStax의 예로도 확인할 수 있습니다. 평균 90, 표준편차 15인 모집단에서 크기 25인 표본을 뽑으면 표준오차는 15/√25 = 3이고, 기댓값보다 표준오차 2개 위인 표본평균은 90 + 2 × 3 = 96입니다.

치우친 모집단도 n = 30이면 평균들이 좌우가 거의 같은 언덕을 이룹니다

중심극한정리는 모집단이 종 모양일 것을 요구하지 않습니다. 실험실에서 모집단을 「한쪽으로 치우친 분포(가상)」로 바꿔 보세요. 작은 값이 흔하고 큰 값은 드문 분포로, 평균은 3.06입니다. 이 분포에서 1이 나올 비율은 30%로 가장 크고, 10이 나올 비율은 1%뿐입니다. n = 1이면 히스토그램 오른쪽에 긴 꼬리가 달려 있습니다. n = 30쯤 되면 표본평균들이 3.06 둘레에 거의 좌우 대칭인 언덕을 이룹니다. 여론 조사가 사람들의 의견이 어떻게 분포하는지 몰라도 오차 범위를 낼 수 있는 까닭이 여기에 있습니다. 예·아니요 질문이라면 모집단은 0과 1로 이루어지고 σ는 0.5를 넘지 않으니, 1,000명을 조사하면 95% 오차 범위는 약 2 × 0.5/√1000 ≈ 0.032입니다. 흔히 듣는 「±3%포인트」가 이 수입니다.