Estimation en prépa ECG : estimateurs, biais et intervalles de confiance

Estimation en prépa ECG : estimateur, biais, convergence, intervalles de confiance par Bienaymé-Tchebychev et asymptotiques, programme par option et Python.

ViragePrépa

L'estimation en prépa ECG est le dernier chapitre des probabilités en prépa ECG : elle s'appuie sur les lois usuelles et les théorèmes limites pour retrouver un paramètre inconnu à partir de données observées. Voici ce que le programme officiel exige dans chaque option, avec des exemples corrigés et du Python.

L'estimation en prépa ECG en bref

Question

Réponse

Place dans le programme

2e année, 4e semestre, dans les deux options

Commun aux deux options

n-échantillon, estimateur, estimation, moyenne empirique, intervalle de confiance par Bienaymé-Tchebychev, intervalle de confiance de la moyenne d'une loi normale d'écart type connu

Propre aux maths approfondies

Définitions formelles des intervalles de confiance, estimateur sans biais, suite d'estimateurs convergente, condition suffisante de convergence

Propre aux maths appliquées

Principe du maximum de vraisemblance, sur les lois de Bernoulli et de Poisson

Hors programme

Risque quadratique, dans les deux options

Python

Comparaison d'estimateurs et d'intervalles de confiance par simulation, dans les deux options

Ce que dit le programme officiel, option par option

Les programmes de mathématiques de la voie générale sont publiés au Bulletin officiel spécial n° 1 du 11 février 2021 : annexe 1 pour les maths appliquées, annexe 2 pour les maths approfondies. Dans les deux, l'estimation est la dernière partie du programme de probabilités du quatrième semestre. Les deux textes lui donnent le même objectif : « introduire le vocabulaire et la démarche de la statistique inférentielle » sur quelques cas simples.

Notion

Maths approfondies

Maths appliquées

n-échantillon, estimateur, estimation, moyenne empirique

Au programme

Au programme

Variance empirique

Peut être introduite avec la loi normale

Peut être introduite avec la loi normale : Sn = ((X1 − X̄n)² + … + (Xn − X̄n)²) / n

Maximum de vraisemblance

Absent

Principe, sans développement théorique, sur Bernoulli et Poisson

Estimateur sans biais

Au programme

Absent

Suite d'estimateurs convergente

Au programme, avec une condition suffisante

Hors des objectifs, peut être commentée sur des exemples

Risque quadratique

Explicitement hors programme

Absent

Définition d'un intervalle de confiance

Définition formelle

Pas d'exposé théorique

Intervalle par Bienaymé-Tchebychev

Paramètre d'une loi de Bernoulli

Espérance m, à partir de X̄n

Moyenne d'une loi normale, écart type connu

Au programme

Au programme

Intervalle asymptotique par le théorème limite central

Définition générale et exemple de Bernoulli

Résultat non exigible en l'état ; cas de Bernoulli admis en TP

Python

Monte-Carlo, comparaison d'estimateurs et d'intervalles

Comparaison d'estimateurs et d'intervalles

Retiens trois phrases. En maths approfondies : « La notion de risque quadratique n'est pas au programme. » En maths appliquées, le paragraphe sur les intervalles de confiance « ne doit pas faire l'objet d'un exposé théorique », et la convergence des estimateurs « sort des objectifs du programme », tout en pouvant être commentée sur des exemples.

Échantillon, estimateur, estimation : le vocabulaire exact

La loi d'une variable aléatoire X dépend d'un paramètre θ, élément d'un ensemble Θ inclus dans R, fixé mais inconnu : θ n'est pas aléatoire. On veut estimer θ, ou une quantité g(θ) comme l'espérance de X.

  • Un n-échantillon de X est une famille (X1, …, Xn) de variables aléatoires indépendantes et de même loi que X. Les données x1, …, xn en sont une réalisation.

  • Un estimateur de g(θ) est une variable aléatoire de la forme Tn = φ(X1, …, Xn), où φ est une fonction de R^n dans R qui peut dépendre de n mais pas de θ.

  • L'estimation est le nombre φ(x1, …, xn) calculé sur les données observées.

L'estimateur est une variable aléatoire, l'estimation un nombre. Un estimateur n'a pas à être bon : la constante 1/2 est un estimateur de p, alors que X̄n − θ n'en est pas un, car il dépend de θ.

L'estimateur de référence est la moyenne empirique X̄n = (X1 + … + Xn) / n. Si X admet une espérance m et une variance σ², la linéarité donne E(X̄n) = m et l'indépendance donne V(X̄n) = σ² / n.

Exemple : sur 400 personnes tirées au hasard avec remise, 248 sont favorables à un projet. Chaque réponse suit la loi B(p), et l'estimation de p par la moyenne empirique vaut 248 / 400 = 0,62.

Biais et convergence : juger la qualité d'un estimateur

Cette partie relève des maths approfondies, où le programme note Eθ et Vθ l'espérance et la variance pour la valeur θ du paramètre.

Estimateur sans biais

Un estimateur Tn de g(θ) est sans biais si, pour tout θ de Θ, E(Tn) = g(θ). La différence E(Tn) − g(θ) est appelée biais. La moyenne empirique est un estimateur sans biais de m, puisque E(X̄n) = m.

Contre-exemple classique : la variance empirique Sn = ((X1 − X̄n)² + … + (Xn − X̄n)²) / n est biaisée. En développant, la somme des (Xi − X̄n)² vaut la somme des Xi², moins n X̄n². Or E(Xi²) = σ² + m² et E(X̄n²) = V(X̄n) + E(X̄n)² = σ²/n + m². Donc :

E(Sn) = (n(σ² + m²) − n(σ²/n + m²)) / n = (n − 1) σ² / n

Sn sous-estime σ² en moyenne. Pour n ≥ 2, l'estimateur n Sn / (n − 1) est, lui, sans biais.

Suite d'estimateurs convergente

Une suite (Tn) d'estimateurs de g(θ) est convergente si, pour tout θ, Tn converge en probabilité vers g(θ) : pour tout ε > 0, P(|Tn − g(θ)| ≥ ε) tend vers 0 quand n tend vers +∞. Par abus de langage, on dit aussi que l'estimateur est convergent.

La loi faible des grands nombres dit exactement que X̄n est un estimateur convergent de m. Le programme rappelle que si (Tn) est convergente et f continue sur R, alors (f(Tn)) est une suite convergente d'estimateurs de f(g(θ)).

Exemple : pour la loi B(p), X̄n(1 − X̄n) est un estimateur convergent de p(1 − p), avec f(x) = x(1 − x). Il est pourtant biaisé : E(X̄n(1 − X̄n)) = p − (p(1 − p)/n + p²) = (n − 1) p(1 − p) / n. Sans biais et convergent sont deux propriétés distinctes.

La condition suffisante de convergence

Si E(Tn) tend vers g(θ) et V(Tn) tend vers 0, alors la suite (Tn) est convergente. Le programme suggère de passer par l'inégalité de Markov :

  • On écrit Tn − g(θ) = (Tn − E(Tn)) + (E(Tn) − g(θ)) et on développe le carré. Le double produit a une espérance nulle, car E(Tn − E(Tn)) = 0. On obtient E((Tn − g(θ))²) = V(Tn) + (E(Tn) − g(θ))².

  • L'inégalité de Markov, appliquée à la variable positive (Tn − g(θ))² et au réel ε², donne : P(|Tn − g(θ)| ≥ ε) ≤ (V(Tn) + (E(Tn) − g(θ))²) / ε².

  • Les deux termes du numérateur tendent vers 0 par hypothèse, donc la probabilité aussi.

Le programme note que cette démonstration fournit aussi un intervalle de confiance asymptotique et un moyen de comparer la qualité des estimateurs.

Le risque quadratique, hors programme dans les deux options

En statistique, la quantité E((Tn − g(θ))²) de cette preuve s'appelle le risque quadratique. Les maths approfondies excluent explicitement cette notion et les maths appliquées ne l'abordent pas : retiens le calcul, pas le vocabulaire.

Un exemple corrigé complet : estimer la borne d'une loi uniforme

Cet exercice relève des maths approfondies. Soit X ↪ U[0, θ], avec θ > 0 inconnu, et (X1, …, Xn) un n-échantillon de X.

1. Un estimateur fondé sur la moyenne. Comme E(X) = θ/2, on pose Tn = 2 X̄n. Alors E(Tn) = 2 × θ/2 = θ : Tn est sans biais. Et V(Tn) = 4 V(X̄n) = 4 × θ² / (12n) = θ² / (3n), qui tend vers 0 : Tn est convergent.

2. Un estimateur fondé sur le maximum. Soit Mn le plus grand des Xi. Par indépendance, pour x dans [0, θ], P(Mn ≤ x) = (x/θ)^n. Mn a donc pour densité n x^(n − 1) / θ^n sur [0, θ], et 0 ailleurs. On calcule E(Mn) = nθ / (n + 1) et E(Mn²) = nθ² / (n + 2), d'où :

V(Mn) = nθ² / (n + 2) − n²θ² / (n + 1)² = nθ² / ((n + 1)² (n + 2))

Mn est biaisé, de biais −θ / (n + 1), mais E(Mn) tend vers θ et V(Mn) vers 0 : par la condition suffisante, Mn est convergent.

3. Correction du biais. L'estimateur Tn' = (n + 1) Mn / n est sans biais, et V(Tn') = ((n + 1)/n)² V(Mn) = θ² / (n(n + 2)).

4. Comparaison. Les deux estimateurs sans biais se comparent par leur variance : θ² / (n(n + 2)) ≤ θ² / (3n), car n + 2 ≥ 3, avec égalité seulement pour n = 1. Pour n = 20, la variance passe de θ²/60 à θ²/440, soit plus de 7 fois moins.

Le maximum de vraisemblance, en maths appliquées

Le programme de maths appliquées demande d'expliquer le principe du maximum de vraisemblance, sans développement théorique, sur les lois de Bernoulli et de Poisson. On retient la valeur du paramètre qui rend les données observées les plus probables, en maximisant la vraisemblance L(θ) = Pθ(X1 = x1) × … × Pθ(Xn = xn), ou son logarithme. On note s = x1 + … + xn.

  • Loi de Bernoulli : L(p) = p^s (1 − p)^(n − s). Si 0 < s < n, la dérivée de ln L(p) = s ln p + (n − s) ln(1 − p) vaut (s − np) / (p(1 − p)). Elle est positive avant s/n et négative après : le maximum est atteint en p = s/n, la moyenne observée.

  • Loi de Poisson : L(λ) = e^(−nλ) λ^s / (x1! × … × xn!). Si s > 0, la dérivée de ln L(λ) vaut −n + s/λ, qui s'annule en λ = s/n, positive avant et négative après. Dans les deux cas, on retrouve la moyenne empirique.

Les intervalles de confiance

Définition et lecture

Le programme de maths approfondies définit l'intervalle de confiance ainsi : soit α dans [0, 1] et deux suites d'estimateurs (Un) et (Vn) telles que P(Un ≤ Vn) = 1 ; [Un, Vn] est un intervalle de confiance de g(θ) au niveau de confiance 1 − α si, pour tout θ de Θ, P(Un ≤ g(θ) ≤ Vn) ≥ 1 − α. Sa réalisation est l'estimation de cet intervalle.

Le niveau 95 % signifie que la méthode, répétée sur de nombreux échantillons, donne des intervalles contenant θ dans au moins 95 % des cas environ.

Par l'inégalité de Bienaymé-Tchebychev

Si V(X) = σ² est connue, l'inégalité de Bienaymé-Tchebychev appliquée à X̄n donne, pour tout ε > 0, P(|X̄n − m| ≥ ε) ≤ σ² / (nε²). En choisissant ε = σ / √(nα), cette probabilité est au plus α, donc [X̄n − ε, X̄n + ε] est un intervalle de confiance de m au niveau 1 − α.

Pour une loi B(p), σ² = p(1 − p) est inconnu, mais p(1 − p) ≤ 1/4 pour tout p, car 1/4 − p(1 − p) = (p − 1/2)² ≥ 0. On prend donc ε = 1 / (2√(nα)).

Exemple : avec le sondage précédent, n = 400, x̄ = 0,62 et α = 0,05, on trouve √(nα) = √20 ≈ 4,472 et ε ≈ 0,112. L'intervalle de confiance à 95 % est environ [0,508 ; 0,732].

Pour la moyenne d'une loi normale d'écart type connu

Si X ↪ N(m, σ²) avec σ connu, une somme de variables normales indépendantes étant normale, X̄n ↪ N(m, σ²/n), donc √n (X̄n − m) / σ ↪ N(0, 1). Soit tα le réel tel que Φ(tα) = 1 − α/2, c'est-à-dire le quantile d'ordre 1 − α/2 de N(0, 1). Alors P(|√n (X̄n − m) / σ| ≤ tα) = 2Φ(tα) − 1 = 1 − α, d'où l'intervalle de confiance exact au niveau 1 − α :

[X̄n − tα σ / √n, X̄n + tα σ / √n]

Exemple : σ = 2, n = 25, x̄ = 10,3 et α = 0,05, donc tα ≈ 1,96 puisque Φ(1,96) ≈ 0,975. La demi-largeur vaut 1,96 × 2 / 5 = 0,784 et l'intervalle est [9,516 ; 11,084]. Avec Bienaymé-Tchebychev, on aurait obtenu une demi-largeur de 2 / √(25 × 0,05) ≈ 1,789, plus du double.

L'intervalle de confiance asymptotique par le théorème limite central

Quand la loi de X̄n n'est pas connue, le théorème limite central l'approche pour n grand. En maths approfondies, un intervalle de confiance asymptotique de g(θ) au niveau 1 − α est une suite ([Un, Vn]) telle que, pour tout θ, il existe une suite (αn) de réels de [0, 1], de limite α, avec P(Un ≤ g(θ) ≤ Vn) ≥ 1 − αn pour tout n ≥ 1.

Cas de la loi de Bernoulli. Par le théorème limite central, P(|√n (X̄n − p) / √(p(1 − p))| ≤ tα) tend vers 2Φ(tα) − 1 = 1 − α. Comme √(p(1 − p)) ≤ 1/2, cet événement est inclus dans [|X̄n − p| ≤ tα / (2√n)]. L'intervalle [X̄n − tα / (2√n), X̄n + tα / (2√n)] est donc un intervalle de confiance asymptotique de p au niveau 1 − α.

Avec n = 400, x̄ = 0,62 et α = 0,05, la demi-largeur vaut 1,96 / 40 = 0,049 et l'intervalle est [0,571 ; 0,669]. Le rapport des demi-largeurs avec Bienaymé-Tchebychev vaut 1 / (1,96 √α) ≈ 2,28 : l'intervalle asymptotique est plus de deux fois plus étroit, mais son niveau n'est garanti qu'à la limite. C'est la comparaison suggérée par les deux programmes.

En maths appliquées, le programme énonce le résultat pour l'espérance m : la probabilité que m soit strictement compris entre X̄n − tα Sn / √n et X̄n + tα Sn / √n tend vers 1 − α. Il y écrit Sn, la notation qu'il vient de donner à la variance empirique : pour que le résultat soit juste, il faut lire à cette place l'écart type empirique √Sn, qui s'exprime dans la même unité que les données. Le programme présente ce résultat comme une conséquence directe du théorème limite central, « pas exigible en l'état », et propose de mentionner le cas α = 0,05. Le cas de Bernoulli est traité en travaux pratiques, comme résultat admis.

Estimer et comparer en Python

Les travaux pratiques de deuxième année des deux options proposent de comparer des estimateurs, par exemple avec des histogrammes, et des intervalles de confiance, par leurs demi-largeurs moyennes et leurs niveaux ; les maths approfondies y ajoutent la méthode de Monte-Carlo.

Vérifier le niveau de deux intervalles de confiance

On simule 10 000 sondages de 400 réponses avec p = 0,3, puis on compte la proportion d'intervalles qui contiennent p. Ici 0.98 vaut 1,96 / 2, et n / 20 vaut nα pour α = 0,05 :

  • import numpy as np

  • import numpy.random as rd

  • p, n, N = 0.3, 400, 10000

  • X = rd.binomial(1, p, [N, n])

  • M = np.mean(X, 1)

  • e1 = 0.5 / np.sqrt(n / 20)

  • e2 = 0.98 / np.sqrt(n)

  • print(np.mean(np.abs(M - p) <= e1), np.mean(np.abs(M - p) <= e2))

On obtient 1.0 pour Bienaymé-Tchebychev et environ 0,97 pour l'intervalle asymptotique. Ce dernier dépasse 0,95 car p(1 − p) = 0,21 est inférieur à la majoration 1/4 : son niveau réel est proche de 2Φ(2,14) − 1 ≈ 0,968.

Comparer deux estimateurs sans biais

On reprend l'exemple de la loi uniforme avec θ = 1 et n = 20, sur 10 000 échantillons :

  • n, N = 20, 10000

  • U = rd.random([N, n])

  • T1 = np.mean(U, 1) / 0.5

  • T2 = np.max(U, 1) / (n / (n + 1))

  • print(np.mean(T1), np.var(T1))

  • print(np.mean(T2), np.var(T2))

Les deux moyennes sont proches de 1 : pas de biais. Les variances sont proches de 1/60 ≈ 0,0167 et 1/440 ≈ 0,0023, comme prévu.

Enfin, np.var divise par n et calcule donc Sn : avec X = rd.normal(0, 2, [100000, 5]), np.mean(np.var(X, 1)) donne environ 3,2 et non 4, soit (n − 1) σ² / n = 4 × 4 / 5.

Les pièges à éviter

  • Croire que θ est aléatoire : écris « l'intervalle aléatoire [Un, Vn] contient θ avec une probabilité au moins 1 − α », pas « θ a 95 % de chances d'être dans [0,571 ; 0,669] ».

  • Confondre sans biais et convergent : X̄n(1 − X̄n) est biaisé mais convergent ; X1 seul estime m sans biais, sans être convergent dès que X n'est pas constante.

  • Prendre 1,96 pour un réflexe universel : tα dépend de α. Pour un niveau de 90 %, tα ≈ 1,645.

FAQ sur l'estimation en prépa ECG

Oui, au quatrième semestre. Le socle commun va de l'estimateur aux intervalles de confiance par Bienaymé-Tchebychev et pour la moyenne d'une loi normale d'écart type connu. Les maths approfondies ajoutent biais et convergence, les maths appliquées le maximum de vraisemblance.

Le risque quadratique n'est au programme d'aucune option. Le biais et la convergence des estimateurs ne le sont qu'en maths approfondies, où tu dois savoir établir E((Tn − g(θ))²) = V(Tn) + (E(Tn) − g(θ))² pour démontrer la condition suffisante de convergence.

Un intervalle de confiance garantit le niveau 1 − α pour tout n, comme ceux de Bienaymé-Tchebychev ou de la loi normale d'écart type connu. Un intervalle asymptotique, obtenu par le théorème limite central, ne le garantit qu'à la limite, quand n tend vers +∞.

Parce que l'inégalité vaut pour toute loi admettant une variance. Pour une proportion à 95 %, sa demi-largeur vaut environ 2,28 fois celle de l'intervalle asymptotique, mais son niveau est garanti pour tout n.

Oui : les épreuves écrites de mathématiques de la BCE et d'Ecricome se passent sans calculatrice, et Φ(1,96) ≈ 0,975 donne tα ≈ 1,96 au niveau 95 %.

Non, il n'apparaît qu'en maths appliquées, sur les lois de Bernoulli et de Poisson, où il conduit à la moyenne empirique.

Conclusion

L'estimation en prépa ECG repose sur quelques idées précises : un estimateur est une variable aléatoire construite sur un échantillon, et un intervalle de confiance encadre le paramètre avec une probabilité garantie, exactement ou à la limite. Les deux options partagent les intervalles de Bienaymé-Tchebychev et de la loi normale d'écart type connu ; les maths approfondies ajoutent le biais et la convergence, les maths appliquées le maximum de vraisemblance. Refais ces calculs et contrôle-les en Python.

Envie de préparer l'estimation avec un mentor issu du top 3 (HEC, ESSEC, ESCP) ? Candidate à l'accompagnement Virage Prépa

À ne pas manquer

Débouchés de la prépa scientifique : écoles, ENS, métiersDébouchés de la prépa ECG : écoles, métiers et salairesConcours Centrale-Supélec : épreuves et préparationLa courbe de l'éléphant : qui a gagné à la mondialisation ?
DIAGNOSTIC GRATUIT

Cet article vous concerne ? Parlons-en 15 minutes.

On analyse la situation de l'élève et on vous dit franchement où il peut viser. Gratuit · Sans engagement · 7j/7

150 places par promotion · admission sur dossier
  1. 1On fait le point sur ses notes et les matières où il perd des points.
  2. 2On vous propose un plan de travail adapté à sa prépa et à l'école visée.
  3. 3Vous repartez avec le tarif exact, sans aucun engagement.