Taille d'échantillon et théorème central limite

La moyenne de 25 valeurs issues d'une population d'écart-type 15 a pour erreur-type 15 ÷ √25 = 3.

Minji fait la moyenne de cinq lancers de dé, trois cents fois

Une histoire fictive. Minji a un dé et beaucoup de patience. Elle le lance cinq fois, note la moyenne, puis recommence. Après 300 séries, elle possède 300 moyennes. Un lancer isolé donne un nombre de 1 à 6 avec la même probabilité : elle s'attend donc à des moyennes réparties aussi uniformément. Ce n'est pas le cas. Environ quatre sur cinq se situent entre 2.5 et 4.5, et moins d'une sur cent est sous 1.5 ou au-dessus de 5.5. Le laboratoire ci-dessous commence avec la même expérience : 300 échantillons de taille 5. Pourquoi les moyennes se regroupent-elles, et à quel point ?

Enquêtes, sondages d'opinion, contrôles sur une chaîne de fabrication et essais médicaux fonctionnent selon la même idée. On ne mesure pas tout le monde : on prélève un échantillon et on utilise sa moyenne pour estimer celle de la population entière. Des échantillons différents donnent des moyennes différentes. La question utile est donc de savoir combien la moyenne varie d'un échantillon à l'autre et comment cette variation dépend de la taille de l'échantillon.

Un dé : une population uniforme de moyenne 3.5

Un dé équilibré constitue une petite population idéale. Ses valeurs de 1 à 6 sont équiprobables : sa moyenne est μ = 3.5 et son écart-type σ = √(35/12), soit environ 1.708. Sa distribution est plate, sans rien d'une cloche. Prélève maintenant un échantillon : lance le dé n fois et calcule la moyenne. Pour n = 1, la moyenne est un lancer isolé, donc sa distribution est plate aussi. Pour n = 2, elle vaut la somme de deux dés divisée par 2 et présente le toit de la leçon sur les deux dés. Pour n = 5 ou 10, l'histogramme des moyennes forme déjà une colline régulière autour de 3.5, qui se resserre quand n augmente.

Les moyennes se regroupent autour de μ, avec une dispersion σ/√n

OpenStax énonce ainsi le théorème central limite pour les moyennes. Prélève des échantillons aléatoires de taille n dans une population de moyenne μ et d'écart-type σ. Lorsque n augmente, les moyennes tendent à suivre une loi normale de moyenne μ et d'écart-type σ/√n. Le nombre σ/√n s'appelle l'erreur-type de la moyenne. OpenStax ajoute une précision facile à manquer : n est le nombre de valeurs dont on fait la moyenne, pas le nombre de répétitions de l'expérience. Prélever davantage d'échantillons remplit l'histogramme ; prélever des échantillons plus grands le resserre. Dans l'expérience de Minji, n vaut 5, pas 300.

Deux conséquences comptent en pratique. D'abord, la moyenne d'échantillon est juste en moyenne : les moyennes se regroupent autour de μ, ni au-dessus ni au-dessous. Ensuite, la précision ne progresse qu'avec la racine carrée de n. Pour le dé, l'erreur-type vaut 1.708/√1 = 1.708 pour un lancer, 1.708/√25 ≈ 0.342 pour des échantillons de 25 et 1.708/√100 ≈ 0.171 pour des échantillons de 100. Quadrupler la taille divise l'erreur-type par deux ; la multiplier par cent la divise par dix. Exemple d'OpenStax : une population de moyenne 90 et d'écart-type 15, avec des échantillons de taille 25, donne une erreur-type de 15/√25 = 3. Une moyenne située deux erreurs-types au-dessus de la valeur attendue vaut donc 90 + 2 × 3 = 96.

Même une population asymétrique donne une colline de moyennes vers n = 30

Le théorème n'exige pas une population en cloche. Passe à la population asymétrique, où les petites valeurs sont fréquentes et les grandes rares ; sa moyenne est 3.06. Pour n = 1, l'histogramme a une longue queue à droite. Vers n = 30, les moyennes forment une colline presque symétrique autour de 3.06. C'est pourquoi les sondages peuvent annoncer une marge d'erreur sans connaître la distribution des opinions. Pour une question oui/non, la population contient des 0 et des 1, avec σ au plus égal à 0.5. Avec 1000 personnes, la marge à 95% vaut environ 2 × 0.5/√1000 ≈ 0.032, le fameux « plus ou moins 3 points de pourcentage ».