Объём выборки и центральная предельная теорема

Среднее 25 значений из генеральной совокупности со стандартным отклонением 15 имеет стандартную ошибку 15 ÷ √25 = 3.

Минджи усредняет пять бросков кости триста раз подряд

Вымышленная история. У Минджи есть кость и много терпения. Она бросает её пять раз, записывает среднее пяти результатов и начинает заново. После 300 повторений у неё 300 средних. При одном броске любое число от 1 до 6 равновероятно, поэтому она ожидает столь же равномерного распределения средних. Но это не так. Около четырёх из пяти средних лежат между 2.5 и 4.5, и меньше одного из ста ниже 1.5 или выше 5.5. Лаборатория ниже начинает с того же опыта: 300 выборок объёмом 5. Почему средние сбиваются в кучу и насколько тесно?

Опросы, исследования общественного мнения, контроль качества на заводе и медицинские испытания устроены похоже. Никто не измеряет всех. Вместо этого берут выборку и по её среднему оценивают среднее генеральной совокупности. Разные выборки дают разные средние. Поэтому важно знать, насколько выборочное среднее колеблется от выборки к выборке и как это зависит от её объёма.

Одна кость: равномерная совокупность со средним 3.5

Правильная кость представляет небольшую идеальную генеральную совокупность. Значения от 1 до 6 равновероятны, поэтому среднее μ = 3.5, а стандартное отклонение σ = √(35/12), около 1.708. Распределение плоское, совсем не колокол. Возьмём выборку: бросим кость n раз и усредним результаты. При n = 1 выборочное среднее равно одному броску, поэтому распределение тоже плоское. При n = 2 это сумма двух костей, делённая на 2, с «шатром» из урока о двух костях. При n = 5 или 10 гистограмма выборочных средних уже похожа на гладкий холм вокруг 3.5, который сужается при росте n.

Выборочные средние группируются вокруг μ с разбросом σ/√n

OpenStax формулирует центральную предельную теорему для выборочных средних так. Берём случайные выборки объёмом n из любой генеральной совокупности со средним μ и стандартным отклонением σ. При росте n распределение выборочных средних приближается к нормальному со средним μ и стандартным отклонением σ/√n. Величину σ/√n называют стандартной ошибкой среднего. OpenStax подчёркивает важную деталь: n означает число усредняемых значений, а не число повторений опыта. Больше выборок заполняют гистограмму; более объёмные выборки сужают её. В опыте Минджи n равно 5, а не 300.

На практике важны два следствия. Во-первых, выборочное среднее в среднем верно: средние собираются вокруг μ, а не выше или ниже него. Во-вторых, точность растёт лишь как квадратный корень из n. Для кости стандартная ошибка равна 1.708/√1 = 1.708 при отдельных бросках, 1.708/√25 ≈ 0.342 при выборках из 25 и 1.708/√100 ≈ 0.171 при выборках из 100. Увеличение объёма в четыре раза уменьшает стандартную ошибку вдвое, а в сто раз уменьшает её в десять раз. Пример OpenStax: генеральная совокупность со средним 90 и стандартным отклонением 15, выборки объёмом 25. Стандартная ошибка равна 15/√25 = 3, а выборочное среднее на две стандартные ошибки выше ожидаемого равно 90 + 2 × 3 = 96.

Даже для асимметричной совокупности при n = 30 средние образуют холм

Теорема не требует колоколообразной генеральной совокупности. Переключи сцену на асимметричную совокупность, где малые значения часты, а большие редки (её среднее 3.06). При n = 1 у гистограммы длинный правый хвост. При n = 30 выборочные средние образуют почти симметричный холм вокруг 3.06. Поэтому опросы могут указывать погрешность, не зная распределения мнений. Для вопроса с ответом «да» или «нет» совокупность состоит из 0 и 1, причём σ не больше 0.5. Для 1000 человек погрешность с уровнем 95% составляет около 2 × 0.5/√1000 ≈ 0.032, привычные «плюс-минус 3 процентных пункта».