Couples de variables aléatoires en prépa ECG : loi conjointe, indépendance et covariance

Les couples de variables aléatoires en bref

Ce que dit le programme officiel selon l'option et l'année

Les programmes de mathématiques de la classe ECG sont fixés par l'arrêté du 5 janvier 2021, publié au Bulletin officiel spécial n° 1 du 11 février 2021 : l'annexe 1 contient le programme de mathématiques appliquées, l'annexe 2 celui de mathématiques approfondies. Les couples n'arrivent pas au même moment dans les deux options.

En maths approfondies, la loi d'un couple discret est donc vue dès le second semestre de première année, puis étendue aux vecteurs aléatoires. En maths appliquées, l'essentiel se concentre au troisième semestre, en commençant par des exemples où X(Ω) et Y(Ω) sont finis.

La densité conjointe d'un couple n'apparaît dans aucun des deux programmes : aucun texte ne définit de couple à densité. Le programme d'approfondies précise aussi que l'étude, pour n > 2, de n-uplets à composantes non indépendantes « n'est pas un objectif du programme », et que la théorie des familles sommables n'est pas au programme : les résultats nécessaires sont admis et doivent être rappelés par l'énoncé.

Loi conjointe, lois marginales et lois conditionnelles

La loi conjointe d'un couple discret

Donner la loi du couple (X, Y), c'est donner X(Ω), Y(Ω) et, pour tout couple (x, y), la probabilité P([X = x] ∩ [Y = y]). Quand ces ensembles sont finis et petits, on la présente dans un tableau à double entrée, dont la somme des cases vaut 1.

Retrouver les lois marginales

Les lois de X et de Y sont les lois marginales du couple. Les événements [Y = y] formant un système complet, la formule des probabilités totales donne P(X = x) comme la somme, sur y, des P([X = x] ∩ [Y = y]) : dans un tableau, c'est la somme de la ligne. En revanche, les lois marginales ne suffisent pas à retrouver la loi conjointe, sauf si X et Y sont indépendantes.

Les lois conditionnelles

Pour x tel que P(X = x) ≠ 0, on note A = [X = x]. La loi conditionnelle de Y sachant A est la loi de Y pour la probabilité PA : elle associe à chaque y la valeur PA(Y = y) = P(A ∩ [Y = y]) / P(A). Souvent, l'énoncé fait le chemin inverse : il décrit la loi de X, puis la loi de Y « sachant que X vaut x », et l'on obtient la loi conjointe par la formule des probabilités composées, P(A ∩ [Y = y]) = P(A) PA(Y = y).

Le programme de maths appliquées cite explicitement les lois conditionnelles ; celui de maths approfondies ne les nomme pas, mais elles ne demandent que les probabilités conditionnelles de première année.

Exemple corrigé : le plus petit et le plus grand de deux numéros

Une urne contient trois boules numérotées 1, 2 et 3. On tire successivement deux boules sans remise. X est le plus petit numéro obtenu, Y le plus grand.

Les 6 tirages ordonnés possibles sont équiprobables. Les paires obtenues sont {1, 2}, {1, 3} et {2, 3}, chacune avec probabilité 2/6 = 1/3.

• Lois marginales : P(X = 1) = 2/3, P(X = 2) = 1/3, P(Y = 2) = 1/3, P(Y = 3) = 2/3. D'où E(X) = 4/3 et E(Y) = 8/3.

• Loi conditionnelle : sachant [X = 1], Y vaut 2 ou 3 avec probabilité (1/3) / (2/3) = 1/2 chacun ; sachant [X = 2], Y vaut 3 avec probabilité 1.

• Indépendance : P([X = 2] ∩ [Y = 2]) = 0, alors que P(X = 2) P(Y = 2) = 1/9. X et Y ne sont pas indépendantes.

Indépendance de deux variables aléatoires

Définition et méthode

X et Y sont indépendantes si et seulement si P([X = x] ∩ [Y = y]) = P(X = x) P(Y = y) pour tout (x, y) de X(Ω) × Y(Ω). Pour la démontrer, il faut vérifier l'égalité pour tous les couples ; pour la réfuter, un contre-exemple suffit, souvent une case nulle du tableau dont les deux marginales sont non nulles, comme ci-dessus.

Indépendance mutuelle et lemme des coalitions

Pour n variables discrètes, l'indépendance mutuelle s'écrit P([X1 = x1] ∩ … ∩ [Xn = xn]) = P(X1 = x1) … P(Xn = xn) pour tous x1, …, xn. Le lemme des coalitions, admis dans les deux options, affirme que si X1, …, Xn sont indépendantes, toute variable fonction de X1, …, Xp est indépendante de toute variable fonction de Xp+1, …, Xn. Par exemple, X1 + X2 est indépendante de X3 X4.

En deuxième année, l'indépendance s'étend aux variables quelconques, y compris à densité : P([X ∈ I] ∩ [Y ∈ J]) = P(X ∈ I) P(Y ∈ J) pour tous intervalles I et J. C'est la définition en maths appliquées ; en maths approfondies, elle est définie par les fonctions de répartition, puis caractérisée de cette façon.

Loi d'une fonction du couple : X + Y, maximum, minimum

La loi de la somme

Si X et Y sont à valeurs entières, l'événement [X + Y = n] est la réunion disjointe des [X = k] ∩ [Y = n − k]. On a donc P(X + Y = n) = somme sur k de P([X = k] ∩ [Y = n − k]), et si X et Y sont indépendantes, chaque terme devient P(X = k) P(Y = n − k).

Exemple corrigé : stabilité de la loi de Poisson. Soient X ↪ P(λ) et Y ↪ P(μ) indépendantes. Pour tout entier naturel n :

P(X + Y = n) = somme pour k de 0 à n de e^(−λ) λ^k / k! × e^(−μ) μ^(n − k) / (n − k)!

En factorisant par e^(−(λ + μ)) / n!, il reste la somme des C(n, k) λ^k μ^(n − k), qui vaut (λ + μ)^n par la formule du binôme. Donc P(X + Y = n) = e^(−(λ + μ)) (λ + μ)^n / n! : X + Y ↪ P(λ + μ). Ce résultat et son analogue pour les lois binomiales de même paramètre p sont au programme des deux options ; tu retrouveras leurs formules dans le guide des lois de probabilité usuelles en prépa ECG.

Pour deux variables indépendantes de loi G(p), avec q = 1 − p, k varie seulement de 1 à n − 1, et chaque terme vaut p q^(k − 1) × p q^(n − k − 1) = p² q^(n − 2). Donc P(X + Y = n) = (n − 1) p² q^(n − 2) pour tout n ≥ 2.

Pour des variables à densité, les maths approfondies remplacent cette somme par une intégrale, le produit de convolution, tandis que les maths appliquées admettent seulement qu'une somme de variables normales indépendantes suit une loi normale : voir le guide des variables aléatoires à densité et de la loi normale.

Le maximum et le minimum

Pour un maximum, on passe par l'événement [max(X, Y) ≤ k] = [X ≤ k] ∩ [Y ≤ k]. Pour un minimum, par [min(X, Y) > k] = [X > k] ∩ [Y > k]. Si X et Y sont indépendantes, ces probabilités se factorisent. On revient ensuite à la loi avec P(M = k) = P(M ≤ k) − P(M ≤ k − 1) pour des variables à valeurs entières.

Exemple corrigé : minimum de deux lois géométriques. Soient X et Y indépendantes de loi G(p), avec q = 1 − p. Pour tout entier naturel k, P(X > k) = q^k, donc P(min(X, Y) > k) = q^k × q^k = (q²)^k. C'est la queue d'une loi géométrique : min(X, Y) ↪ G(1 − q²). Pour p = 1/2, min(X, Y) suit G(3/4) et son espérance vaut 4/3.

Pour le maximum, une astuce évite de calculer sa loi : comme max(X, Y) + min(X, Y) = X + Y, la linéarité donne E(max(X, Y)) = 2/p − 1 / (1 − q²), soit 4 − 4/3 = 8/3 pour p = 1/2.

Covariance, coefficient de corrélation et variance d'une somme

Espérance d'un produit et théorème de transfert

Le théorème de transfert pour un couple, admis, permet de calculer E(XY) directement à partir de la loi conjointe, avec g(x, y) = xy, sans chercher la loi de XY. Si X et Y sont indépendantes et admettent une espérance, XY admet une espérance et E(XY) = E(X) E(Y).

La covariance et ses propriétés

Pour deux variables admettant un moment d'ordre 2, Cov(X, Y) = E((X − E(X))(Y − E(Y))), et la formule de Koenig-Huygens donne Cov(X, Y) = E(XY) − E(X) E(Y). Les propriétés à connaître :

• symétrie : Cov(X, Y) = Cov(Y, X) ;

• bilinéarité : Cov(aX + bY, Z) = a Cov(X, Z) + b Cov(Y, Z), et de même à droite ;

• constantes : Cov(X, a) = 0 pour tout réel a, donc Cov(X + a, Y) = Cov(X, Y) ;

• lien avec la variance : Cov(X, X) = V(X), qui est positive ;

• indépendance : si X et Y sont indépendantes, Cov(X, Y) = 0. La réciproque est fausse, et les deux programmes le précisent.

Le coefficient de corrélation linéaire

Si σ(X) et σ(Y) sont non nuls, ρ(X, Y) = Cov(X, Y) / (σ(X) σ(Y)). Il vérifie |ρ(X, Y)| ≤ 1, et le cas d'égalité s'interprète ainsi : ρ(X, Y) = 1 si et seulement s'il existe a > 0 et b réels tels que P(Y = aX + b) = 1, et ρ(X, Y) = −1 de même avec a < 0. Le coefficient mesure donc une dépendance affine, pas n'importe quelle dépendance.

Variance d'une somme

En développant par bilinéarité, V(X + Y) = V(X) + V(Y) + 2 Cov(X, Y), et plus généralement V(aX + bY) = a² V(X) + b² V(Y) + 2ab Cov(X, Y). Si X et Y sont indépendantes, V(X + Y) = V(X) + V(Y). Pour n variables mutuellement indépendantes, la variance de la somme est la somme des variances : c'est ce qui donne V(X) = np(1 − p) pour une loi binomiale, somme de n variables de Bernoulli indépendantes.

Retour à l'urne. Pour le couple (X, Y) du tableau, E(XY) = (1 × 2 + 1 × 3 + 2 × 3) / 3 = 11/3, donc Cov(X, Y) = 11/3 − (4/3)(8/3) = 33/9 − 32/9 = 1/9. Avec E(X²) = 2 et E(Y²) = 22/3, on trouve V(X) = 2 − 16/9 = 2/9 et V(Y) = 22/3 − 64/9 = 2/9. Donc ρ(X, Y) = (1/9) / (2/9) = 1/2 : le plus petit et le plus grand numéro varient plutôt dans le même sens. Enfin V(X + Y) = 2/9 + 2/9 + 2/9 = 2/3. Contrôle : X + Y est la somme des deux numéros tirés, qui vaut 3, 4 ou 5 avec probabilité 1/3 chacun, d'espérance 4 et de variance (1 + 0 + 1) / 3 = 2/3.

Exemple corrigé : somme et différence de deux dés

On lance deux dés équilibrés indépendants, de résultats X et Y, avec V(X) = V(Y) = 35/12. On pose S = X + Y et D = X − Y.

• Covariance : par bilinéarité et symétrie, Cov(S, D) = V(X) − Cov(X, Y) + Cov(Y, X) − V(Y) = V(X) − V(Y) = 0.

• Pas d'indépendance : [S = 2] impose X = Y = 1, donc D = 0. Ainsi P([S = 2] ∩ [D = 0]) = 1/36, alors que P(S = 2) P(D = 0) = (1/36)(6/36) = 1/216.

• Une corrélation non nulle : Cov(X, S) = V(X) + Cov(X, Y) = 35/12 et V(S) = 35/6 par indépendance, donc ρ(X, S) = (35/12) / √((35/12)(35/6)) = 1/√2 ≈ 0,707.

Vérifier ses calculs en Python

Les commandes utilisées ici, rd.randint, rd.geometric, np.mean et np.abs, figurent dans les listes des deux programmes. La statistique bivariée, avec la covariance empirique sxy = (1/n) × somme des (xi − x̄)(yi − ȳ), est au cours du troisième semestre en maths appliquées et en travaux pratiques de deuxième année en maths approfondies.

Pour la somme et la différence de deux dés :

• import numpy as np

• import numpy.random as rd

• N = 100000

• X = rd.randint(1, 7, N)

• Y = rd.randint(1, 7, N)

• S = X + Y

• D = X - Y

• print(np.mean(S * D) - np.mean(S) * np.mean(D))

• print(np.mean((S == 2) * (D == 0)), np.mean(S == 2) * np.mean(D == 0))

La première valeur est proche de 0, la seconde ligne affiche environ 0,028 et 0,005, soit 1/36 et 1/216. Rappel : rd.randint(1, 7, N) renvoie des entiers de 1 à 6, la borne de droite étant exclue.

Pour le minimum et le maximum de deux lois G(1/2), on utilise min(x, y) = (x + y − |x − y|) / 2 et max(x, y) = (x + y + |x − y|) / 2, avec les importations et la valeur de N précédentes :

• G1 = rd.geometric(0.5, N)

• G2 = rd.geometric(0.5, N)

• m = (G1 + G2 - np.abs(G1 - G2)) / 2

• M = (G1 + G2 + np.abs(G1 - G2)) / 2

• print(np.mean(m), np.mean(M), np.mean(m == 1))

Tu obtiens des valeurs proches de 4/3 ≈ 1,33, de 8/3 ≈ 2,67 et de 3/4, la probabilité P(min(X, Y) = 1) pour la loi G(3/4).

Les pièges à éviter

• Croire que les lois marginales déterminent la loi du couple : c'est vrai seulement sous l'hypothèse d'indépendance.

• Déduire l'indépendance d'une covariance nulle : l'exemple des deux dés montre que c'est faux.

• Écrire V(X + Y) = V(X) + V(Y) sans justification : il faut l'indépendance, ou au moins une covariance nulle démontrée.

• Oublier le facteur 2 dans V(X + Y) = V(X) + V(Y) + 2 Cov(X, Y), ou écrire V(X − Y) = V(X) − V(Y) : en réalité V(X − Y) = V(X) + V(Y) − 2 Cov(X, Y).

• Se tromper de bornes dans la loi de X + Y : pour deux variables de loi G(p), k va de 1 à n − 1, pas de 0 à n.