MP · Chapitre 09

Variables aléatoires discrètes

Ensembles dénombrables, espaces probabilisés, conditionnement et indépendance, variables discrètes, lois géométrique et de Poisson, espérance, variance, loi faible des grands nombres, fonctions génératrices.

Sommaire

Ce qu'il faut savoir faire

En première année, l'univers $Ω$ était fini. Cette hypothèse rendait tout confortable : toute partie de $Ω$ était un événement, toute somme était une somme finie, toute variable aléatoire avait une espérance. Elle rendait aussi le modèle impuissant. Impossible d'y décrire le rang du premier pile dans une suite illimitée de lancers, le nombre d'appels reçus par un standard en une heure, ou le nombre de tentatives avant un premier succès : ces quantités prennent une infinité de valeurs, et l'univers fini les exclut par construction.

Ce chapitre lève cette restriction, mais pas complètement : on passe du fini au dénombrable, pas au continu. Les variables étudiées prennent leurs valeurs dans un ensemble au plus dénombrable, typiquement $N$ ou $N^{*}$ . Ce changement d'échelle a trois conséquences. D'abord, on ne peut plus prendre pour événements toutes les parties de $Ω$ : il faut se donner une tribu, c'est-à-dire une collection de parties stable par les opérations dénombrables. Ensuite, les sommes finies deviennent des sommes de familles indexées par un ensemble infini : c'est la théorie des familles sommables qui légitime les manipulations, et notamment les interversions de sommes qui apparaîtront à chaque calcul un peu sérieux. Enfin, une variable aléatoire n'a plus nécessairement d'espérance : la question de la sommabilité devient une question préalable à tout calcul.

Une fois ce cadre posé, presque tout ce que vous savez de la première année se transporte sans changement : conditionnement, formule des probabilités totales, formule de Bayes, indépendance, linéarité de l'espérance, variance, covariance, inégalités de Markov et de Bienaymé-Tchebychev. S'y ajoutent deux nouveautés : deux lois qui n'existaient pas en univers fini, la loi géométrique et la loi de Poisson, et un outil de calcul d'une efficacité remarquable, la fonction génératrice, qui transforme une loi sur $N$ en une série entière et une somme de variables indépendantes en un produit de fonctions. Le chapitre se referme sur la loi faible des grands nombres, qui donne enfin un contenu mathématique à l'intuition selon laquelle une fréquence observée se rapproche d'une probabilité.

Notations valables dans tout le chapitre. L'espace probabilisé est $(Ω, A, P)$ . Les événements sont notés $A$ , $B$ , $A_{n}$ , et $\overline{A}$ désigne le complémentaire de $A$ dans $Ω$ . Une variable aléatoire discrète est notée $X$ , $Y$ , $X_{n}$ , et $X (Ω)$ est l'ensemble de ses valeurs. L'événement « $X$ prend la valeur $k$ » s'écrit avec des parenthèses, $(X = k)$ , et sa probabilité $P (X = k)$ . On note $1_{A}$ l'indicatrice de $A$ , $E (X)$ l'espérance, $V (X)$ la variance, $σ (X)$ l'écart type, $C o v (X, Y)$ la covariance et $G_{X}$ la fonction génératrice. Pour la loi géométrique et la loi de Bernoulli, on pose systématiquement $q = 1 - p$ .

Ensembles dénombrables et familles sommables

Cette première section est une boîte à outils, pas un objet d'étude. Le programme la présente a minima : tous les résultats y sont admis, et ils ne font l'objet d'aucune évaluation spécifique. On ne vous demandera jamais de démontrer qu'un ensemble est dénombrable, ni d'étudier une famille sommable pour elle-même. Ces énoncés n'ont qu'un seul emploi : légitimer les interversions de sommes dans les calculs probabilistes. Lisez-les comme on lit une liste de permis de manœuvre.

Ensembles au plus dénombrables

Définition

Un ensemble $E$ est dénombrable lorsqu'il existe une bijection de $N$ sur $E$ . Il est au plus dénombrable lorsqu'il est fini ou dénombrable, ce qui équivaut à l'existence d'une injection de $E$ dans $N$ .

Propriété

Résultats admis.

$N$ , $N^{*}$ et $Z$ sont dénombrables.
Toute partie d'un ensemble au plus dénombrable est au plus dénombrable.
Un produit cartésien fini d'ensembles au plus dénombrables est au plus dénombrable ; en particulier $N^{2}$ et $Z^{n}$ sont dénombrables.
Une union au plus dénombrable d'ensembles au plus dénombrables est au plus dénombrable.

Ces quatre points suffisent à tout ce qui suit. Ils garantissent par exemple que si $X$ et $Y$ sont deux variables aléatoires discrètes, l'ensemble $X (Ω) \times Y (Ω)$ qui indexe la loi du couple est encore au plus dénombrable, et donc que les sommes écrites plus loin ont un sens.

Familles sommables

Définition

Soit $I$ un ensemble au plus dénombrable et $(u_{i})_{i \in I}$ une famille de réels positifs. On pose

\sum_{i \in I} u_{i} = \sup {\sum_{i \in J} u_{i}; J \subset I, J finie} \in [0, + \infty] .

La famille est dite sommable lorsque cette borne supérieure est finie.

Une famille $(u_{i})_{i \in I}$ de nombres complexes est sommable lorsque la famille positive $(∣ u_{i} ∣)_{i \in I}$ est sommable. On définit alors sa somme $\sum_{i \in I} u_{i}$ , qui ne dépend d'aucun ordre d'énumération de $I$ .

Propriété

Résultats admis, valables pour des familles indexées par des ensembles au plus dénombrables.

Cas de $I = N$ . La famille $(u_{n})_{n \in N}$ est sommable si et seulement si la série $\sum u_{n}$ est absolument convergente, et alors $\sum_{n \in N} u_{n} = \sum_{n = 0}^{+ \infty} u_{n}$ . C'est le pont entre ce vocabulaire et les séries de première année.

Linéarité et croissance. Si $(u_{i})$ et $(v_{i})$ sont sommables et $λ \in C$ , alors $(u_{i} + λ v_{i})$ est sommable et $\sum_{i} (u_{i} + λ v_{i}) = \sum_{i} u_{i} + λ \sum_{i} v_{i}$ . Si de plus $u_{i} ⩽ v_{i}$ pour tout $i$ avec des familles réelles, alors $\sum_{i} u_{i} ⩽ \sum_{i} v_{i}$ .

Propriété

Sommation par paquets. Soit $(u_{i})_{i \in I}$ une famille positive, ou une famille sommable, et soit $(I_{n})_{n \in N}$ une partition de $I$ indexée par un ensemble $N$ au plus dénombrable. Alors

\sum_{i \in I} u_{i} = \sum_{n \in N} (\sum_{i \in I_{n}} u_{i}),

égalité valable dans $[0, + \infty]$ pour une famille positive.

Théorème de Fubini. Soit $(u_{i, j})_{(i, j) \in I \times J}$ une famille positive, ou sommable. Alors

\sum_{(i, j) \in I \times J} u_{i, j} = \sum_{i \in I} (\sum_{j \in J} u_{i, j}) = \sum_{j \in J} (\sum_{i \in I} u_{i, j}) .

Produit de deux sommes. Si $(u_{i})_{i \in I}$ et $(v_{j})_{j \in J}$ sont sommables, alors la famille $(u_{i} v_{j})_{(i, j) \in I \times J}$ est sommable et

\sum_{(i, j) \in I \times J} u_{i} v_{j} = (\sum_{i \in I} u_{i}) (\sum_{j \in J} v_{j}) .

Retenez le mode d'emploi. Devant une double somme à intervertir, il n'y a qu'une chose à vérifier : les termes sont-ils positifs ? Si oui, Fubini s'applique sans autre précaution, l'égalité ayant lieu dans $[0, + \infty]$ . Sinon, on établit d'abord la sommabilité en travaillant sur les modules, puis on intervertit. En probabilités, les termes manipulés sont presque toujours des probabilités ou des produits de probabilités, donc positifs : l'interversion est licite d'emblée, et c'est exactement ce qui rend ces énoncés si commodes.

Espaces probabilisés

Tribu et espace probabilisable

Définition

Soit $Ω$ un ensemble non vide. Une tribu sur $Ω$ est une partie $A$ de $P (Ω)$ telle que :

$Ω \in A$ ;
pour tout $A \in A$ , $\overline{A} \in A$ (stabilité par complémentaire) ;
pour toute suite $(A_{n})_{n \in N}$ d'éléments de $A$ , $⋃_{n \in N} A_{n} \in A$ (stabilité par union dénombrable).

Le couple $(Ω, A)$ est un espace probabilisable, les éléments de $A$ sont les événements.

Propriété

Une tribu $A$ contient $\emptyset$ , et elle est stable par union et intersection finies ou dénombrables ainsi que par différence.

Démonstration. On a $\emptyset = \overline{Ω} \in A$ . Pour une intersection dénombrable, les lois de De Morgan donnent

⋂_{n \in N} A_{n} = \overline{⋃_{n \in N} \overline{A_{n}}},

et le membre de droite est dans $A$ par stabilité par complémentaire puis par union dénombrable. Pour une union finie $A_{0} \cup \dots \cup A_{p}$ , on complète la famille en posant $A_{n} = \emptyset$ pour $n > p$ et on applique la stabilité dénombrable ; même procédé pour une intersection finie en complétant par $Ω$ . Enfin $A ∖ B = A \cap \overline{B} \in A$ . $□$

Le vocabulaire ensembliste se traduit terme à terme en vocabulaire probabiliste, et cette traduction doit être automatique. L'événement $A \cap B$ est « $A$ et $B$ », l'événement $A \cup B$ est « $A$ ou $B$ », $\overline{A}$ est « $A$ n'est pas réalisé », l'inclusion $A \subset B$ signifie « $A$ implique $B$ », et $A \cap B = \emptyset$ signifie que $A$ et $B$ sont incompatibles. Pour les familles infinies, les quantificateurs sont à écrire une fois pour toutes :

\begin{aligned} ω \in ⋃_{n \in N} A_{n} & ⟺ \exists n \in N, ω \in A_{n}, \\ ω \in ⋂_{n \in N} A_{n} & ⟺ \forall n \in N, ω \in A_{n} . \end{aligned}

Autrement dit, $⋃_{n} A_{n}$ est l'événement « au moins un des $A_{n}$ est réalisé » et $⋂_{n} A_{n}$ l'événement « tous les $A_{n}$ sont réalisés ». Toute la difficulté des exercices de modélisation tient dans le passage correct d'une phrase en français à l'une de ces deux écritures.

Probabilité

Définition

Soit $(Ω, A)$ un espace probabilisable. Une probabilité sur $(Ω, A)$ est une application $P : A \to [0, 1]$ telle que :

$P (Ω) = 1$ ;
( $σ$ -additivité) pour toute suite $(A_{n})_{n \in N}$ d'événements deux à deux incompatibles, la série $\sum P (A_{n})$ converge et

P (⋃_{n \in N} A_{n}) = \sum_{n = 0}^{+ \infty} P (A_{n}) .

Le triplet $(Ω, A, P)$ est un espace probabilisé.

Propriété

Soit $(Ω, A, P)$ un espace probabilisé et $A, B$ deux événements.

$P (\emptyset) = 0$ , et $P$ est additive sur toute famille finie d'événements deux à deux incompatibles.
$P (\overline{A}) = 1 - P (A)$ .
Si $A \subset B$ , alors $P (B ∖ A) = P (B) - P (A)$ et $P (A) ⩽ P (B)$ (croissance).
$P (A \cup B) = P (A) + P (B) - P (A \cap B)$ .

Démonstration. Pour le point 1, la suite constante $A_{n} = \emptyset$ est formée d'événements deux à deux incompatibles et d'union $\emptyset$ , donc $P (\emptyset) = \sum_{n ⩾ 0} P (\emptyset)$ : une série de terme général constant converge seulement si ce terme est nul, d'où $P (\emptyset) = 0$ . L'additivité finie s'en déduit en complétant une famille finie par des $\emptyset$ . Le point 2 vient de $Ω = A ⊔ \overline{A}$ . Pour le point 3, $B = A ⊔ (B ∖ A)$ donne $P (B) = P (A) + P (B ∖ A)$ , et $P (B ∖ A) ⩾ 0$ fournit la croissance. Pour le point 4, on écrit $A \cup B = A ⊔ (B ∖ (A \cap B))$ , d'où $P (A \cup B) = P (A) + P (B) - P (A \cap B)$ grâce au point 3 appliqué à $A \cap B \subset B$ . $□$

Continuité monotone et sous-additivité

Voici les deux résultats vraiment nouveaux de la section. Ce sont eux qui permettent de faire tendre un nombre de répétitions vers l'infini, et ils servent dans presque tous les exercices d'événements limites.

Propriété

Continuité croissante. Si $(A_{n})_{n \in N}$ est une suite croissante d'événements, c'est-à-dire $A_{n} \subset A_{n + 1}$ pour tout $n$ , alors

P (⋃_{n \in N} A_{n}) = \lim_{n \to + \infty} P (A_{n}) .

Continuité décroissante. Si $(A_{n})_{n \in N}$ est une suite décroissante d'événements, c'est-à-dire $A_{n + 1} \subset A_{n}$ pour tout $n$ , alors

P (⋂_{n \in N} A_{n}) = \lim_{n \to + \infty} P (A_{n}) .

Démonstration. Traitons d'abord le cas croissant. Posons $B_{0} = A_{0}$ et, pour $n ⩾ 1$ , $B_{n} = A_{n} ∖ A_{n - 1} = A_{n} \cap \overline{A_{n - 1}}$ : ce sont des événements, comme intersections d'éléments de $A$ .

Ces événements sont deux à deux incompatibles. En effet, soit $m < n$ : alors $B_{m} \subset A_{m} \subset A_{n - 1}$ par croissance de la suite, tandis que $B_{n} \subset \overline{A_{n - 1}}$ , donc $B_{m} \cap B_{n} = \emptyset$ .

Montrons ensuite par récurrence que $⋃_{k = 0}^{n} B_{k} = A_{n}$ . C'est vrai pour $n = 0$ . Si c'est vrai au rang $n$ , alors

\begin{aligned} ⋃_{k = 0}^{n + 1} B_{k} & = A_{n} \cup (A_{n + 1} \cap \overline{A_{n}}) = (A_{n} \cup A_{n + 1}) \cap (A_{n} \cup \overline{A_{n}}) \\ = A_{n + 1} \cap Ω = A_{n + 1}, \end{aligned}

puisque $A_{n} \subset A_{n + 1}$ . En passant à l'union sur tous les indices, on obtient $⋃_{k \in N} B_{k} = ⋃_{n \in N} A_{n}$ .

La $σ$ -additivité appliquée à la famille $(B_{k})$ donne alors

\begin{aligned} P (⋃_{n \in N} A_{n}) & = \sum_{k = 0}^{+ \infty} P (B_{k}) = \lim_{n \to + \infty} \sum_{k = 0}^{n} P (B_{k}) \\ = \lim_{n \to + \infty} P (⋃_{k = 0}^{n} B_{k}) = \lim_{n \to + \infty} P (A_{n}), \end{aligned}

la troisième égalité utilisant l'additivité finie. La convergence de la suite $(P (A_{n}))$ est donc acquise en même temps que sa valeur.

Pour le cas décroissant, on passe aux complémentaires : la suite $(\overline{A_{n}})$ est croissante, et De Morgan donne $⋃_{n} \overline{A_{n}} = \overline{⋂_{n} A_{n}}$ . Le cas croissant fournit

\begin{aligned} 1 - P (⋂_{n \in N} A_{n}) & = P (\overline{⋂_{n \in N} A_{n}}) = \lim_{n \to + \infty} P (\overline{A_{n}}) \\ = \lim_{n \to + \infty} (1 - P (A_{n})) = 1 - \lim_{n \to + \infty} P (A_{n}), \end{aligned}

d'où le résultat en retranchant à $1$ . $□$

Propriété

Sous-additivité dénombrable. Pour toute suite $(A_{n})_{n \in N}$ d'événements, sans aucune hypothèse d'incompatibilité,

P (⋃_{n \in N} A_{n}) ⩽ \sum_{n = 0}^{+ \infty} P (A_{n}),

l'inégalité étant triviale si la série diverge, auquel cas le membre de droite vaut $+ \infty$ .

Démonstration. Posons $B_{0} = A_{0}$ et, pour $n ⩾ 1$ ,

B_{n} = A_{n} ∖ (A_{0} \cup A_{1} \cup \dots \cup A_{n - 1}) = A_{n} \cap \overline{A_{0}} \cap \dots \cap \overline{A_{n - 1}},

qui est un événement. Ces événements sont deux à deux incompatibles : si $m < n$ , alors $B_{m} \subset A_{m}$ alors que $B_{n} \subset \overline{A_{m}}$ . De plus $B_{n} \subset A_{n}$ pour tout $n$ , et une récurrence immédiate donne $⋃_{k = 0}^{n} B_{k} = ⋃_{k = 0}^{n} A_{k}$ , donc $⋃_{n} B_{n} = ⋃_{n} A_{n}$ .

La $σ$ -additivité puis la croissance de $P$ donnent

P (⋃_{n \in N} A_{n}) = \sum_{n = 0}^{+ \infty} P (B_{n}) ⩽ \sum_{n = 0}^{+ \infty} P (A_{n}),

la majoration terme à terme étant licite pour des séries à termes positifs. $□$

Événements négligeables, presque sûrs, systèmes complets

Définition

Un événement $A$ est négligeable lorsque $P (A) = 0$ , et presque sûr lorsque $P (A) = 1$ . Une propriété est dite vraie presque sûrement lorsque l'événement sur lequel elle est réalisée est presque sûr.

Propriété

Une union au plus dénombrable d'événements négligeables est négligeable. Par passage au complémentaire, une intersection au plus dénombrable d'événements presque sûrs est presque sûre.

Démonstration. Si $P (A_{n}) = 0$ pour tout $n$ , la sous-additivité dénombrable donne $0 ⩽ P (⋃_{n} A_{n}) ⩽ \sum_{n} 0 = 0$ . $□$

Attention à ne pas confondre « négligeable » et « impossible » : $\emptyset$ est le seul événement impossible, alors qu'un événement négligeable peut parfaitement être non vide. Dans un jeu de pile ou face illimité, l'événement « on n'obtient jamais pile » est non vide, et pourtant négligeable, comme on le vérifiera plus bas.

Définition

Soit $I$ un ensemble au plus dénombrable et $(A_{i})_{i \in I}$ une famille d'événements deux à deux incompatibles.

C'est un système complet d'événements lorsque $⋃_{i \in I} A_{i} = Ω$ .
C'est un système quasi-complet d'événements lorsque $P (⋃_{i \in I} A_{i}) = 1$ .

Dans les deux cas, $\sum_{i \in I} P (A_{i}) = 1$ .

Un système complet est un système quasi-complet, et la différence entre les deux est un événement négligeable. C'est précisément la souplesse dont on a besoin : la famille $((X = k))_{k \in N^{*}}$ associée au rang du premier succès n'est complète que si l'on a pris soin de traiter le cas, négligeable, où aucun succès n'apparaît.

Conditionnement et indépendance

Probabilité conditionnelle

Définition

Soit $B$ un événement tel que $P (B) > 0$ . Pour tout événement $A$ , on appelle probabilité conditionnelle de $A$ sachant $B$ le nombre

P (A ∣ B) = P_{B} (A) = \frac{P (A \cap B)}{P (B)} .

Propriété

Si $P (B) > 0$ , l'application $P_{B} : A \to [0, 1]$ est une probabilité sur $(Ω, A)$ .

Démonstration. Soit $A \in A$ . Comme $A \cap B \subset B$ , la croissance de $P$ donne $0 ⩽ P (A \cap B) ⩽ P (B)$ , donc $P_{B} (A) \in [0, 1]$ : l'application est bien à valeurs dans $[0, 1]$ . Ensuite $P_{B} (Ω) = \frac{P (Ω \cap B)}{P (B)} = \frac{P (B)}{P (B)} = 1$ .

Soit enfin $(A_{n})_{n \in N}$ une suite d'événements deux à deux incompatibles. Les événements $A_{n} \cap B$ sont eux aussi deux à deux incompatibles, puisque $(A_{m} \cap B) \cap (A_{n} \cap B) \subset A_{m} \cap A_{n} = \emptyset$ pour $m \neq n$ . Par distributivité, $(⋃_{n} A_{n}) \cap B = ⋃_{n} (A_{n} \cap B)$ , donc la $σ$ -additivité de $P$ donne

P_{B} (⋃_{n \in N} A_{n}) = \frac{1}{P (B)} \sum_{n = 0}^{+ \infty} P (A_{n} \cap B) = \sum_{n = 0}^{+ \infty} P_{B} (A_{n}),

la constante $\frac{1}{P (B)} > 0$ pouvant entrer dans la série convergente à termes positifs. $□$

Cette propriété n'est pas une curiosité : elle signifie que tous les résultats du chapitre s'appliquent à $P_{B}$ . Croissance, continuité monotone, sous-additivité, espérance, tout reste vrai « sachant $B$ ».

Propriété

Formule des probabilités composées. Si $A_{1}, \dots, A_{n}$ sont des événements tels que $P (A_{1} \cap \dots \cap A_{n - 1}) > 0$ , alors

\begin{aligned} P (A_{1} \cap A_{2} \cap \dots \cap A_{n}) & = P (A_{1}) P (A_{2} ∣ A_{1}) P (A_{3} ∣ A_{1} \cap A_{2}) \dots \\ \dots P (A_{n} ∣ A_{1} \cap \dots \cap A_{n - 1}) . \end{aligned}

Démonstration. L'hypothèse et la croissance de $P$ assurent que tous les conditionnements écrits portent sur des événements de probabilité strictement positive. Le produit du membre de droite se télescope :

\begin{aligned} P (A_{1}) \times \frac{P (A_{1} \cap A_{2})}{P (A_{1})} \times \frac{P (A_{1} \cap A_{2} \cap A_{3})}{P (A_{1} \cap A_{2})} \times \dots \times \frac{P (A_{1} \cap \dots \cap A_{n})}{P (A_{1} \cap \dots \cap A_{n - 1})} \\ = P (A_{1} \cap \dots \cap A_{n}) . □ \end{aligned}

Probabilités totales et formule de Bayes

Propriété

Formule des probabilités totales. Soit $(A_{i})_{i \in I}$ un système complet ou quasi-complet d'événements, avec $I$ au plus dénombrable. Alors, pour tout événement $B$ , la famille $(P (B \cap A_{i}))_{i \in I}$ est sommable et

P (B) = \sum_{i \in I} P (B \cap A_{i}) = \sum_{i \in I} P (A_{i}) P (B ∣ A_{i}),

la seconde écriture supposant $P (A_{i}) > 0$ pour tout $i$ , les indices tels que $P (A_{i}) = 0$ pouvant simplement être retirés de la somme.

Démonstration. Posons $S = ⋃_{i \in I} A_{i}$ et $N = \overline{S}$ , de sorte que $P (N) = 1 - P (S) = 0$ : l'événement $N$ est négligeable, et il est vide dans le cas d'un système complet.

Les événements $B \cap A_{i}$ , pour $i \in I$ , sont deux à deux incompatibles car les $A_{i}$ le sont, et $B \cap N$ est incompatible avec chacun d'eux puisque $N \cap A_{i} = \emptyset$ . Comme $Ω = S ⊔ N$ , on obtient la décomposition

B = (B \cap S) ⊔ (B \cap N) = (⨆_{i \in I} (B \cap A_{i})) ⊔ (B \cap N) .

La $σ$ -additivité donne alors, la famille d'indices étant au plus dénombrable,

P (B) = \sum_{i \in I} P (B \cap A_{i}) + P (B \cap N) .

Or $B \cap N \subset N$ , donc $0 ⩽ P (B \cap N) ⩽ P (N) = 0$ par croissance : ce terme est nul. Il reste $P (B) = \sum_{i \in I} P (B \cap A_{i})$ , la sommabilité étant assurée par la $σ$ -additivité elle-même. La seconde écriture s'obtient en remplaçant $P (B \cap A_{i})$ par $P (A_{i}) P (B ∣ A_{i})$ , ce qui est licite dès que $P (A_{i}) > 0$ ; et si $P (A_{i}) = 0$ , alors $P (B \cap A_{i}) = 0$ et le terme correspondant ne contribue pas. $□$

Propriété

Formule de Bayes. Soient $A$ et $B$ deux événements de probabilités non nulles. Alors

P (A ∣ B) = \frac{P (A) P (B ∣ A)}{P (B)} .

Si de plus $(A_{i})_{i \in I}$ est un système complet ou quasi-complet d'événements de probabilités non nulles, alors pour tout $j \in I$

P (A_{j} ∣ B) = \frac{P (A_{j}) P (B ∣ A_{j})}{\sum_{i \in I} P (A_{i}) P (B ∣ A_{i})} .

Démonstration. La première formule résulte de la double écriture $P (A \cap B) = P (B) P (A ∣ B) = P (A) P (B ∣ A)$ . La seconde s'en déduit en remplaçant $P (B)$ au dénominateur par la formule des probabilités totales. $□$

Indépendance

Définition

Deux événements $A$ et $B$ sont indépendants lorsque $P (A \cap B) = P (A) P (B)$ . Lorsque $P (B) > 0$ , cela équivaut à $P (A ∣ B) = P (A)$ .

Une famille finie d'événements $(A_{1}, \dots, A_{n})$ est mutuellement indépendante lorsque

\forall J \subset {1, \dots, n}, J \neq \emptyset, P (⋂_{i \in J} A_{i}) = \prod_{i \in J} P (A_{i}) .

L'indépendance mutuelle exige donc bien davantage que l'indépendance deux à deux, qui n'est que le cas des parties $J$ à deux éléments. Ces deux notions ne coïncident pas : il existe des familles de trois événements deux à deux indépendants qui ne sont pas mutuellement indépendants, et un contre-exemple classique est traité dans la fiche d'exercices de ce chapitre. Retenez seulement qu'aucune des vérifications ne se déduit des autres, et qu'il faut donc les faire toutes.

Propriété

Si $A$ et $B$ sont indépendants, alors $A$ et $\overline{B}$ le sont aussi, de même que $\overline{A}$ et $B$ , et $\overline{A}$ et $\overline{B}$ .

Démonstration. L'événement $A$ se décompose en $A = (A \cap B) ⊔ (A \cap \overline{B})$ , donc par additivité $P (A \cap \overline{B}) = P (A) - P (A \cap B)$ . En utilisant l'indépendance de $A$ et $B$ , il vient

P (A \cap \overline{B}) = P (A) - P (A) P (B) = P (A) (1 - P (B)) = P (A) P (\overline{B}),

ce qui est exactement l'indépendance de $A$ et $\overline{B}$ . Le rôle de $A$ et $B$ étant symétrique, $\overline{A}$ et $B$ sont indépendants, et en appliquant à nouveau le résultat au couple $(\overline{A}, B)$ , on obtient l'indépendance de $\overline{A}$ et $\overline{B}$ . $□$

Variables aléatoires discrètes

Définition, loi, variable image

Définition

Soit $(Ω, A)$ un espace probabilisable et $E$ un ensemble. Une variable aléatoire discrète sur $(Ω, A)$ à valeurs dans $E$ est une application $X : Ω \to E$ telle que :

$X (Ω)$ est au plus dénombrable ;
pour tout $x \in X (Ω)$ , l'ensemble $(X = x) = {ω \in Ω; X (ω) = x}$ est un événement, c'est-à-dire un élément de $A$ .

Lorsque $E \subset R$ , on parle de variable aléatoire discrète réelle.

Définition

La loi de $X$ est la donnée de l'ensemble $X (Ω)$ et de la famille $(P (X = x))_{x \in X (Ω)}$ . On la note $P_{X}$ .

Deux variables aléatoires $X$ et $Y$ , éventuellement définies sur des espaces différents, suivent la même loi, ce qu'on note $X \sim Y$ , lorsque $X (Ω) = Y (Ω)$ et $P (X = x) = P (Y = x)$ pour tout $x$ .

Propriété

La famille $((X = x))_{x \in X (Ω)}$ est un système complet d'événements. En particulier $\sum_{x \in X (Ω)} P (X = x) = 1$ .

Réciproquement, si $(p_{x})_{x \in E}$ est une famille de réels positifs indexée par un ensemble $E$ au plus dénombrable et de somme $1$ , il existe une variable aléatoire discrète de loi $(p_{x})_{x \in E}$ .

Définition

Si $X$ est une variable aléatoire discrète à valeurs dans $E$ et si $f : E \to F$ est une application quelconque, alors $f (X) = f \circ X$ est une variable aléatoire discrète à valeurs dans $F$ , dont la loi est donnée par

P (f (X) = u) = \sum_{x \in X (Ω), f (x) = u} P (X = x) .

Lois usuelles

Les trois premières lois sont connues depuis la première année, on les rappelle sans démonstration.

Définition

Loi uniforme $X \sim U (E)$ sur un ensemble fini $E$ de cardinal $n$ : $P (X = x) = \frac{1}{n}$ pour tout $x \in E$ .
Loi de Bernoulli $X \sim B (p)$ , avec $p \in [0, 1]$ : $X (Ω) = {0, 1}$ , $P (X = 1) = p$ et $P (X = 0) = q = 1 - p$ . On a $E (X) = p$ et $V (X) = p q$ .
Loi binomiale $X \sim B (n, p)$ : $X (Ω) = {0, 1, \dots, n}$ et $P (X = k) = (\binom{n}{k}) p^{k} q^{n - k}$ . C'est la loi du nombre de succès lors de $n$ répétitions indépendantes d'une épreuve de Bernoulli de paramètre $p$ . On a $E (X) = n p$ et $V (X) = n p q$ .

Les deux lois suivantes sont les nouveautés du chapitre : leur support est infini, elles n'ont donc pas d'équivalent en univers fini.

Définition

Soit $p \in] 0, 1 [$ et $q = 1 - p$ . Une variable aléatoire $X$ suit la loi géométrique de paramètre $p$ , ce qu'on note $X \sim G (p)$ , lorsque $X (Ω) = N^{*}$ et

\forall k \in N^{*}, P (X = k) = p q^{k - 1} .

Propriété

Si $X \sim G (p)$ , alors $\sum_{k = 1}^{+ \infty} P (X = k) = 1$ et

\forall k \in N, P (X > k) = q^{k} = (1 - p)^{k}, P (X ⩾ k) = q^{k - 1} pour k ⩾ 1.

Démonstration. La série géométrique de raison $q \in] 0, 1 [$ converge, et

\sum_{k = 1}^{+ \infty} p q^{k - 1} = p \sum_{j = 0}^{+ \infty} q^{j} = \frac{p}{1 - q} = \frac{p}{p} = 1,

ce qui confirme qu'on a bien défini une loi. Ensuite, pour $k \in N$ , l'événement $(X > k)$ est la réunion disjointe des $(X = j)$ pour $j ⩾ k + 1$ , donc

P (X > k) = \sum_{j = k + 1}^{+ \infty} p q^{j - 1} = p q^{k} \sum_{i = 0}^{+ \infty} q^{i} = \frac{p q^{k}}{1 - q} = q^{k},

où l'on a posé $i = j - k - 1$ . Enfin $(X ⩾ k) = (X > k - 1)$ pour $k ⩾ 1$ , d'où $P (X ⩾ k) = q^{k - 1}$ . $□$

Exemple

Le rang du premier succès. On répète indéfiniment, de façon indépendante, une épreuve de Bernoulli de probabilité de succès $p \in] 0, 1 [$ , et l'on note $X$ le rang du premier succès. L'événement $(X = k)$ signifie « les $k - 1$ premières épreuves sont des échecs et la $k$ -ième est un succès », donc par indépendance

P (X = k) = q^{k - 1} p .

Ainsi $X \sim G (p)$ . De même, $(X > k)$ signifie « les $k$ premières épreuves sont des échecs », ce qui redonne directement $P (X > k) = q^{k}$ : c'est la lecture la plus rapide de cette formule, et c'est celle à retenir. La loi géométrique est la loi du temps d'attente du premier succès.

Définition

Soit $λ > 0$ . Une variable aléatoire $X$ suit la loi de Poisson de paramètre $λ$ , ce qu'on note $X \sim P (λ)$ , lorsque $X (Ω) = N$ et

\forall k \in N, P (X = k) = e^{- λ} \frac{λ^{k}}{k!} .

Vérification que la somme vaut $1$ . Tous les termes sont positifs et la série exponentielle converge pour tout réel, donc

\sum_{k = 0}^{+ \infty} e^{- λ} \frac{λ^{k}}{k!} = e^{- λ} \sum_{k = 0}^{+ \infty} \frac{λ^{k}}{k!} = e^{- λ} e^{λ} = 1. □

Exemple

La loi de Poisson comme loi des événements rares. Fixons $λ > 0$ et, pour $n > λ$ , soit $X_{n} \sim B ⁣ (n, \frac{λ}{n})$ : un très grand nombre $n$ d'épreuves indépendantes, chacune de probabilité de succès très faible, le nombre moyen de succès $n \times \frac{λ}{n} = λ$ restant constant. Fixons $k \in N$ et calculons la limite du nombre $P (X_{n} = k)$ :

\begin{aligned} P (X_{n} = k) & = (\binom{n}{k}) {(\frac{λ}{n})}^{k} {(1 - \frac{λ}{n})}^{n - k} \\ = \underset{\to 1}{\underset{⏟}{\frac{n (n - 1) \dots (n - k + 1)}{n^{k}}}} \times \frac{λ^{k}}{k!} \times \underset{\to e^{- λ}}{\underset{⏟}{{(1 - \frac{λ}{n})}^{n}}} \times \underset{\to 1}{\underset{⏟}{{(1 - \frac{λ}{n})}^{- k}}} . \end{aligned}

Le premier facteur est un quotient de $k$ facteurs équivalents à $n$ par $n^{k}$ , il tend vers $1$ à $k$ fixé ; le troisième s'écrit $\exp ⁣ (n \ln ⁣ (1 - \frac{λ}{n}))$ avec $n \ln ⁣ (1 - \frac{λ}{n}) = - λ + o (1)$ . Ainsi

P (X_{n} = k) \to_{n \to + \infty}^{} e^{- λ} \frac{λ^{k}}{k!} .

Il s'agit ici d'une limite de nombres, à $k$ fixé, et de rien d'autre. Elle justifie l'emploi de la loi de Poisson pour modéliser un nombre d'occurrences d'un événement rare sur une longue période : appels reçus par un standard, désintégrations radioactives, pannes d'un parc de machines.

Couples, lois marginales, lois conditionnelles

Définition

Soient $X$ et $Y$ deux variables aléatoires discrètes sur le même espace, à valeurs dans $E$ et $F$ . Le couple $Z = (X, Y)$ est une variable aléatoire discrète à valeurs dans $E \times F$ , d'ensemble de valeurs inclus dans $X (Ω) \times Y (Ω)$ , qui est au plus dénombrable.

La loi conjointe de $(X, Y)$ est la famille $(P (X = x, Y = y))_{(x, y)}$ , où $(X = x, Y = y)$ désigne l'événement $(X = x) \cap (Y = y)$ . Les lois de $X$ et de $Y$ s'appellent alors les lois marginales du couple. Tout ceci s'étend à un $n$ -uplet $(X_{1}, \dots, X_{n})$ .

Propriété

Passage de la loi conjointe aux lois marginales.

\forall x \in X (Ω), P (X = x) = \sum_{y \in Y (Ω)} P (X = x, Y = y),

et symétriquement pour $Y$ . En revanche, la donnée des deux lois marginales ne détermine pas la loi conjointe.

Démonstration. La famille $((Y = y))_{y \in Y (Ω)}$ est un système complet d'événements, indexé par un ensemble au plus dénombrable. La formule des probabilités totales appliquée à l'événement $B = (X = x)$ donne exactement

P (X = x) = \sum_{y \in Y (Ω)} P ((X = x) \cap (Y = y)) = \sum_{y \in Y (Ω)} P (X = x, Y = y) . □

Définition

Soit $B$ un événement de probabilité non nulle. La loi conditionnelle de $X$ sachant $B$ est la loi de $X$ pour la probabilité $P_{B}$ , c'est-à-dire la famille $(P (X = x ∣ B))_{x \in X (Ω)}$ . Comme $P_{B}$ est une probabilité, cette famille est bien une loi : elle est positive et de somme $1$ .

Le cas le plus fréquent est $B = (Y = y)$ avec $P (Y = y) > 0$ : la loi conditionnelle de $X$ sachant $(Y = y)$ est donnée par

P (X = x ∣ Y = y) = \frac{P (X = x, Y = y)}{P (Y = y)} .

Indépendance de variables aléatoires

Définition

Deux variables aléatoires discrètes $X$ et $Y$ sont indépendantes lorsque

\forall (x, y) \in X (Ω) \times Y (Ω), P (X = x, Y = y) = P (X = x) P (Y = y) .

Les variables $X_{1}, \dots, X_{n}$ sont (mutuellement) indépendantes lorsque

\begin{aligned} \forall (x_{1}, \dots, x_{n}) \in X_{1} (Ω) \times \dots \times X_{n} (Ω), \\ P (X_{1} = x_{1}, \dots, X_{n} = x_{n}) = \prod_{i = 1}^{n} P (X_{i} = x_{i}) . \end{aligned}

Une suite $(X_{n})_{n \in N}$ est une suite de variables indépendantes lorsque toute sous-famille finie l'est. Elle est dite i.i.d. (indépendante et identiquement distribuée) lorsque, de plus, toutes les $X_{n}$ suivent la même loi.

Pour des variables indépendantes, la loi conjointe est donc entièrement déterminée par les lois marginales : c'est exactement ce que l'indépendance apporte, et c'est pourquoi elle simplifie tant les calculs.

Propriété

Modélisation du pile ou face infini (résultat admis). Pour tout $p \in [0, 1]$ , il existe un espace probabilisé $(Ω, A, P)$ portant une suite $(X_{n})_{n ⩾ 1}$ de variables aléatoires i.i.d. de loi $B (p)$ , où $(X_{n} = 1)$ modélise « la $n$ -ième épreuve est un succès ». La construction d'un tel espace est hors programme : on l'utilise, on ne la refait pas.

Exemple

« On n'obtient jamais de succès » est négligeable. Reprenons la suite précédente avec $p \in] 0, 1 [$ et posons $A_{N} = ⋂_{n = 1}^{N} (X_{n} = 0)$ , l'événement « les $N$ premières épreuves sont des échecs ». Par indépendance, $P (A_{N}) = q^{N}$ . La suite $(A_{N})_{N ⩾ 1}$ est décroissante, d'intersection $A = ⋂_{n ⩾ 1} (X_{n} = 0)$ . La continuité décroissante donne

P (A) = \lim_{N \to + \infty} P (A_{N}) = \lim_{N \to + \infty} q^{N} = 0,

puisque $0 < q < 1$ . L'événement $A$ est donc négligeable, bien que non vide. On en déduit que le rang $T$ du premier succès est défini sur l'événement presque sûr $\overline{A}$ ; en le prolongeant arbitrairement sur $A$ , ce qui ne modifie aucune des probabilités $P (T = k)$ , on obtient une variable aléatoire telle que $T \sim G (p)$ .

Propriété

Si $X$ et $Y$ sont indépendantes, alors pour toutes applications $f$ et $g$ définies respectivement sur $X (Ω)$ et $Y (Ω)$ , les variables $f (X)$ et $g (Y)$ sont indépendantes.

Démonstration. Fixons $u$ dans $f (X) (Ω)$ et $v$ dans $g (Y) (Ω)$ , et posons $A_{u} = {x \in X (Ω); f (x) = u}$ et $B_{v} = {y \in Y (Ω); g (y) = v}$ . L'événement $(f (X) = u) \cap (g (Y) = v)$ est la réunion, disjointe et au plus dénombrable, des événements $(X = x) \cap (Y = y)$ pour $(x, y) \in A_{u} \times B_{v}$ . La $σ$ -additivité, l'indépendance de $X$ et $Y$ , puis le produit de deux sommes de familles positives sommables donnent

\begin{aligned} P (f (X) = u, g (Y) = v) & = \sum_{(x, y) \in A_{u} \times B_{v}} P (X = x) P (Y = y) \\ = (\sum_{x \in A_{u}} P (X = x)) (\sum_{y \in B_{v}} P (Y = y)) \\ = P (f (X) = u) P (g (Y) = v) . □ \end{aligned}

Propriété

Lemme des coalitions (démonstration hors programme, résultat admis). Soient $X_{1}, \dots, X_{n}$ des variables aléatoires discrètes mutuellement indépendantes et $m$ un entier avec $1 ⩽ m < n$ . Alors, pour toutes applications $f$ et $g$ définies sur les ensembles de valeurs correspondants, les variables aléatoires

f (X_{1}, \dots, X_{m}) et g (X_{m + 1}, \dots, X_{n})

sont indépendantes.

C'est l'énoncé qui autorise, par exemple, à affirmer que $X_{1} + X_{2}$ et $X_{3} X_{4}$ sont indépendantes dès que $X_{1}, X_{2}, X_{3}, X_{4}$ le sont. Sans lui, chaque situation de ce type devrait être vérifiée à la main. Il se généralise à un découpage en plusieurs blocs d'indices deux à deux disjoints.

Espérance

Définition et sommabilité

Définition

Soit $X$ une variable aléatoire discrète positive, à valeurs dans $[0, + \infty]$ , avec la convention $x P (X = x) = 0$ lorsque $x = + \infty$ et $P (X = + \infty) = 0$ . Comme la famille $(x P (X = x))_{x \in X (Ω)}$ est positive, sa somme est toujours définie dans $[0, + \infty]$ et l'on pose

E (X) = \sum_{x \in X (Ω)} x P (X = x) \in [0, + \infty] .

Soit maintenant $X$ une variable aléatoire discrète réelle quelconque. On dit que $X$ est d'espérance finie lorsque la famille $(x P (X = x))_{x \in X (Ω)}$ est sommable, c'est-à-dire lorsque $E (∣ X ∣) < + \infty$ , et l'on pose alors

E (X) = \sum_{x \in X (Ω)} x P (X = x) .

Une variable est centrée lorsque $E (X) = 0$ .

Deux remarques d'usage. Pour une variable positive, l'espérance existe toujours, éventuellement infinie : on peut donc écrire $E (X)$ sans précaution préalable, ce qui est très commode dans les démonstrations. Pour une variable de signe quelconque, en revanche, écrire $E (X)$ sans avoir justifié la sommabilité est une faute : c'est la première chose que cherche un correcteur.

Propriété

Si $A$ est un événement, $1_{A}$ est une variable aléatoire de loi $B (P (A))$ et

E (1_{A}) = P (A) .

La formule des queues

Propriété

Formule des queues. Soit $X$ une variable aléatoire à valeurs dans $N$ . Alors, dans $[0, + \infty]$ ,

E (X) = \sum_{n = 1}^{+ \infty} P (X ⩾ n) = \sum_{n = 0}^{+ \infty} P (X > n) .

En particulier, $X$ est d'espérance finie si et seulement si la série $\sum_{n ⩾ 1} P (X ⩾ n)$ converge.

Démonstration. Pour tout $n ⩾ 1$ , l'événement $(X ⩾ n)$ est la réunion disjointe des $(X = k)$ pour $k ⩾ n$ , donc $P (X ⩾ n) = \sum_{k ⩾ n} P (X = k)$ par $σ$ -additivité. On en déduit

\sum_{n = 1}^{+ \infty} P (X ⩾ n) = \sum_{n ⩾ 1} \sum_{k ⩾ n} P (X = k) = \sum_{(n, k) \in D} P (X = k),

où $D = {(n, k) \in N^{*} \times N; n ⩽ k}$ . Tous les termes sont positifs, donc la sommation par paquets et le théorème de Fubini s'appliquent sans hypothèse supplémentaire, l'égalité ayant lieu dans $[0, + \infty]$ . Regroupons cette fois selon la valeur de $k$ : pour $k$ fixé, les entiers $n$ tels que $(n, k) \in D$ sont exactement $1, 2, \dots, k$ , au nombre de $k$ . D'où

\begin{aligned} \sum_{(n, k) \in D} P (X = k) & = \sum_{k = 0}^{+ \infty} (\sum_{n = 1}^{k} P (X = k)) \\ = \sum_{k = 0}^{+ \infty} k P (X = k) = E (X) . \end{aligned}

Enfin $(X ⩾ n) = (X > n - 1)$ pour $n ⩾ 1$ , ce qui donne la seconde écriture par décalage d'indice. $□$

La formule de transfert

Propriété

Formule de transfert. Soit $X$ une variable aléatoire discrète à valeurs dans $E$ et $f : E \to R$ .

Si $f$ est positive, alors, dans $[0, + \infty]$ , $E (f (X)) = \sum_{x \in X (Ω)} f (x) P (X = x)$ .
Dans le cas général, $f (X)$ est d'espérance finie si et seulement si la famille $(f (x) P (X = x))_{x \in X (Ω)}$ est sommable, et alors

E (f (X)) = \sum_{x \in X (Ω)} f (x) P (X = x) .

Cas d'un couple. Si $(X, Y)$ est un couple de variables discrètes et $f$ une fonction de deux variables, alors $f (X, Y)$ est d'espérance finie si et seulement si la famille $(f (x, y) P (X = x, Y = y))_{(x, y)}$ est sommable, et alors

E (f (X, Y)) = \sum_{(x, y) \in X (Ω) \times Y (Ω)} f (x, y) P (X = x, Y = y) .

L'énoncé s'étend à un $n$ -uplet.

L'intérêt est considérable : pour calculer $E (f (X))$ , on n'a pas besoin de déterminer la loi de $f (X)$ . On somme sur les valeurs de $X$ , avec la loi de $X$ . C'est ce qui rend possibles, plus loin, les calculs de $E (X^{2})$ et de $E (X Y)$ .

Propriétés de l'espérance

Propriété

Soient $X$ et $Y$ deux variables aléatoires discrètes réelles.

Domination. Si $∣ X ∣ ⩽ Y$ et si $Y$ est d'espérance finie, alors $X$ est d'espérance finie.
Linéarité. Si $X$ et $Y$ sont d'espérance finie et $λ \in R$ , alors $X + λ Y$ est d'espérance finie et $E (X + λ Y) = E (X) + λ E (Y)$ .
Positivité. Si $X ⩾ 0$ et $X$ d'espérance finie, alors $E (X) ⩾ 0$ .
Croissance. Si $X ⩽ Y$ et si $X$ et $Y$ sont d'espérance finie, alors $E (X) ⩽ E (Y)$ .
Si $X$ est constante égale à $c$ , alors $E (X) = c$ . Enfin $∣ E (X) ∣ ⩽ E (∣ X ∣)$ .

Démonstration. Pour le point 1, la formule de transfert appliquée au couple $(X, Y)$ et à la fonction positive $(x, y) \mapsto ∣ x ∣$ donne $E (∣ X ∣) ⩽ E (Y) < + \infty$ par croissance des sommes de familles positives, puisque $∣ X ∣ ⩽ Y$ ponctuellement.

Pour le point 2, la formule de transfert pour le couple appliquée à $(x, y) \mapsto ∣ x + λ y ∣ ⩽ ∣ x ∣ + ∣ λ ∣ ∣ y ∣$ donne la sommabilité, puis la linéarité de la somme d'une famille sommable donne

\begin{aligned} E (X + λ Y) & = \sum_{(x, y)} (x + λ y) P (X = x, Y = y) \\ = \sum_{(x, y)} x P (X = x, Y = y) + λ \sum_{(x, y)} y P (X = x, Y = y) . \end{aligned}

En regroupant la première somme par paquets selon la valeur de $x$ , la formule de passage aux lois marginales donne $\sum_{x} x P (X = x) = E (X)$ , et de même pour la seconde. D'où le résultat.

Le point 3 est immédiat : une somme de termes positifs est positive. Le point 4 s'en déduit en appliquant le point 3 à $Y - X ⩾ 0$ , d'espérance finie par linéarité. Le point 5 vient de l'inégalité triangulaire pour les familles sommables. $□$

Propriété

Soit $X$ une variable aléatoire discrète telle que $X ⩾ 0$ et $E (X) = 0$ . Alors l'événement $(X = 0)$ est presque sûr.

Démonstration. Par définition, $E (X) = \sum_{x \in X (Ω)} x P (X = x) = 0$ , et tous les termes de cette somme sont positifs puisque $X (Ω) \subset [0, + \infty [$ . Une somme nulle de termes positifs a tous ses termes nuls : pour tout $x \in X (Ω)$ tel que $x > 0$ , on a donc $x P (X = x) = 0$ , c'est-à-dire $P (X = x) = 0$ .

L'événement $(X > 0)$ est la réunion, au plus dénombrable, des événements négligeables $(X = x)$ pour $x \in X (Ω)$ avec $x > 0$ . Par sous-additivité dénombrable, $P (X > 0) = 0$ , donc $P (X = 0) = 1 - P (X > 0) = 1$ . $□$

Propriété

Si $X$ et $Y$ sont indépendantes et d'espérance finie, alors $X Y$ est d'espérance finie et

E (X Y) = E (X) E (Y) .

Démonstration. Étudions d'abord la sommabilité. Par indépendance, puis par le théorème du produit de deux sommes appliqué aux familles positives sommables $(∣ x ∣ P (X = x))_{x}$ et $(∣ y ∣ P (Y = y))_{y}$ ,

\sum_{(x, y)} ∣ x y ∣ P (X = x, Y = y) = \sum_{(x, y)} ∣ x ∣ P (X = x) \times ∣ y ∣ P (Y = y) = E (∣ X ∣) E (∣ Y ∣) < + \infty .

La famille $(x y P (X = x, Y = y))$ est donc sommable, et la formule de transfert pour le couple s'applique. Le même calcul sans valeurs absolues donne

\begin{aligned} E (X Y) & = \sum_{(x, y)} x y P (X = x) P (Y = y) \\ = (\sum_{x} x P (X = x)) (\sum_{y} y P (Y = y)) = E (X) E (Y) . □ \end{aligned}

Attention : la réciproque est fausse. L'égalité $E (X Y) = E (X) E (Y)$ n'entraîne pas l'indépendance, comme on le verra à la section suivante.

Espérance des lois géométrique et de Poisson

Exemple

Espérance d'une loi géométrique. Soit $X \sim G (p)$ avec $q = 1 - p \in] 0, 1 [$ .

Première méthode, par la formule des queues. La variable $X$ est à valeurs dans $N^{*}$ et $P (X ⩾ n) = q^{n - 1}$ , donc

E (X) = \sum_{n = 1}^{+ \infty} P (X ⩾ n) = \sum_{n = 1}^{+ \infty} q^{n - 1} = \frac{1}{1 - q} = \frac{1}{p},

la série géométrique convergeant puisque $0 < q < 1$ . L'espérance est en particulier finie.

Seconde méthode, par la définition. La série entière $\sum_{k ⩾ 1} k x^{k - 1}$ a pour somme $\frac{1}{(1 - x)^{2}}$ sur $] - 1, 1 [$ , comme dérivée terme à terme de la série géométrique. Donc

E (X) = \sum_{k = 1}^{+ \infty} k p q^{k - 1} = p \sum_{k = 1}^{+ \infty} k q^{k - 1} = \frac{p}{(1 - q)^{2}} = \frac{p}{p^{2}} = \frac{1}{p} .

Conclusion : $E (X) = \frac{1}{p}$ . Le résultat est conforme à l'intuition : si une épreuve réussit une fois sur dix, il faut en moyenne dix essais pour obtenir un premier succès.

Exemple

Espérance d'une loi de Poisson. Soit $X \sim P (λ)$ avec $λ > 0$ . La famille $(k e^{- λ} \frac{λ^{k}}{k!})_{k \in N}$ est positive, et le terme d'indice $0$ est nul. Pour $k ⩾ 1$ , on simplifie $\frac{k}{k!} = \frac{1}{(k - 1)!}$ , d'où

\begin{aligned} E (X) & = \sum_{k = 1}^{+ \infty} k e^{- λ} \frac{λ^{k}}{k!} = e^{- λ} λ \sum_{k = 1}^{+ \infty} \frac{λ^{k - 1}}{(k - 1)!} \\ = e^{- λ} λ \sum_{j = 0}^{+ \infty} \frac{λ^{j}}{j!} = e^{- λ} λ e^{λ} = λ . \end{aligned}

La série exponentielle étant convergente, la famille est sommable et l'espérance est finie. Conclusion : $E (X) = λ$ . Le paramètre d'une loi de Poisson est donc son espérance, ce qui justifie sa lecture comme « nombre moyen d'occurrences ».

Variance et covariance

Moments d'ordre deux

Définition

Soit $X$ une variable aléatoire discrète réelle et $r \in N^{*}$ . Lorsque $X^{r}$ est d'espérance finie, on appelle moment d'ordre $r$ de $X$ le réel $E (X^{r})$ , qui se calcule par la formule de transfert :

E (X^{r}) = \sum_{x \in X (Ω)} x^{r} P (X = x) .

Propriété

Si $X^{2}$ est d'espérance finie, alors $X$ est d'espérance finie.

Démonstration. Pour tout réel $t$ , l'inégalité $(∣ t ∣ - 1)^{2} ⩾ 0$ donne $t^{2} - 2 ∣ t ∣ + 1 ⩾ 0$ , c'est-à-dire

∣ t ∣ ⩽ \frac{1}{2} (1 + t^{2}) .

Appliquée en $t = X (ω)$ , elle fournit $∣ X ∣ ⩽ \frac{1}{2} (1 + X^{2})$ . Or la variable $\frac{1}{2} (1 + X^{2})$ est d'espérance finie par linéarité, puisque $X^{2}$ l'est. La propriété de domination donne alors que $X$ est d'espérance finie. $□$

Propriété

Inégalité de Cauchy-Schwarz. Soient $X$ et $Y$ deux variables aléatoires discrètes réelles telles que $X^{2}$ et $Y^{2}$ soient d'espérance finie. Alors $X Y$ est d'espérance finie et

E (X Y)^{2} ⩽ E (X^{2}) E (Y^{2}) .

Il y a égalité si et seulement si $X$ et $Y$ sont presque sûrement liées, c'est-à-dire s'il existe $(α, β) \neq (0, 0)$ tel que l'événement $(α X + β Y = 0)$ soit presque sûr.

Démonstration. Existence de $E (X Y)$ . L'inégalité $(∣ X ∣ - ∣ Y ∣)^{2} ⩾ 0$ donne $∣ X Y ∣ ⩽ \frac{1}{2} (X^{2} + Y^{2})$ , variable d'espérance finie par linéarité. Par domination, $X Y$ est d'espérance finie.

Remarque préliminaire, utilisée deux fois. Si une variable $W$ d'espérance finie vérifie « $(W = 0)$ est presque sûr », alors $E (W) = 0$ . En effet, pour $w \neq 0$ , on a $(W = w) \subset (W \neq 0)$ , événement négligeable, donc $P (W = w) = 0$ par croissance : tous les termes de la somme définissant $E (W)$ sont nuls.

L'inégalité. Si $E (Y^{2}) = 0$ , alors $(Y^{2} = 0)$ , c'est-à-dire $(Y = 0)$ , est presque sûr, donc $(X Y = 0)$ l'est aussi, donc $E (X Y) = 0$ par la remarque, et les deux membres sont nuls. Supposons maintenant $E (Y^{2}) > 0$ et considérons, pour $t \in R$ ,

φ (t) = E ((X + t Y)^{2}) = E (X^{2}) + 2 t E (X Y) + t^{2} E (Y^{2}),

le développement étant licite par linéarité, chacune des trois variables $X^{2}$ , $X Y$ , $Y^{2}$ étant d'espérance finie. Par positivité de l'espérance, $φ (t) ⩾ 0$ pour tout $t$ . C'est un trinôme du second degré en $t$ , de coefficient dominant $E (Y^{2}) > 0$ , qui garde un signe constant : son discriminant est donc négatif ou nul,

4 E (X Y)^{2} - 4 E (X^{2}) E (Y^{2}) ⩽ 0,

ce qui est l'inégalité annoncée.

Cas d'égalité, sens direct. Supposons $E (X Y)^{2} = E (X^{2}) E (Y^{2})$ . Si $E (Y^{2}) = 0$ , alors $(Y = 0)$ est presque sûr et le couple $(α, β) = (0, 1)$ convient. Sinon, le discriminant du trinôme $φ$ est nul, donc $φ$ admet une racine double $t_{0}$ , et $φ (t_{0}) = 0$ signifie $E ((X + t_{0} Y)^{2}) = 0$ . La variable $(X + t_{0} Y)^{2}$ étant positive d'espérance nulle, l'événement $((X + t_{0} Y)^{2} = 0)$ , c'est-à-dire $(X + t_{0} Y = 0)$ , est presque sûr : le couple $(α, β) = (1, t_{0}) \neq (0, 0)$ convient.

Cas d'égalité, réciproque. Supposons $(α X + β Y = 0)$ presque sûr avec $(α, β) \neq (0, 0)$ . Si $α = 0$ , alors $β \neq 0$ et $(Y = 0)$ est presque sûr : la remarque préliminaire donne $E (Y^{2}) = 0$ et $E (X Y) = 0$ , donc les deux membres sont nuls et l'égalité a lieu.

Supposons donc $α \neq 0$ et posons $c = - \frac{β}{α}$ , de sorte que $(X = c Y)$ est presque sûr. En appliquant la remarque préliminaire à $W = X Y - c Y^{2}$ puis à $W = X^{2} - c^{2} Y^{2}$ , qui sont presque sûrement nulles et d'espérance finie, on obtient $E (X Y) = c E (Y^{2})$ et $E (X^{2}) = c^{2} E (Y^{2})$ . Alors

E (X Y)^{2} = c^{2} E (Y^{2})^{2} = (c^{2} E (Y^{2})) E (Y^{2}) = E (X^{2}) E (Y^{2}) . □

Variance et écart type

Définition

Soit $X$ une variable aléatoire discrète réelle dont $X^{2}$ est d'espérance finie. La variable $X$ est alors d'espérance finie, et l'on appelle variance de $X$ le réel positif

V (X) = E ((X - E (X))^{2}),

et écart type de $X$ le réel $σ (X) = \sqrt{V (X)}$ .

Si $σ (X) > 0$ , la variable $X^{*} = \frac{X - E (X)}{σ (X)}$ est la variable centrée réduite associée : elle vérifie $E (X^{*}) = 0$ et $V (X^{*}) = 1$ .

Propriété

Sous les mêmes hypothèses, et pour tous réels $a$ et $b$ :

Formule de Kœnig-Huygens : $V (X) = E (X^{2}) - E (X)^{2}$ ;
$V (a X + b) = a^{2} V (X)$ , donc $σ (a X + b) = ∣ a ∣ σ (X)$ ;
$V (X) = 0$ si et seulement si l'événement $(X = E (X))$ est presque sûr.

Démonstration. Notons $m = E (X)$ . Pour le point 1, on développe le carré et on applique la linéarité, licite car $X^{2}$ , $X$ et la variable constante $1$ sont d'espérance finie :

V (X) = E (X^{2} - 2 m X + m^{2}) = E (X^{2}) - 2 m E (X) + m^{2} = E (X^{2}) - 2 m^{2} + m^{2} = E (X^{2}) - m^{2} .

Pour le point 2, on a $E (a X + b) = a m + b$ par linéarité, donc

(a X + b) - E (a X + b) = a (X - m), d’o \overset{ˋ}{u} V (a X + b) = E (a^{2} (X - m)^{2}) = a^{2} V (X) .

On notera au passage que la variance est insensible à la translation : ajouter $b$ décale la variable sans modifier sa dispersion.

Pour le point 3, la variable $(X - m)^{2}$ est positive, et son espérance est nulle si et seulement si l'événement $((X - m)^{2} = 0) = (X = m)$ est presque sûr, d'après le résultat démontré à la section précédente. $□$

Exemple

Variance d'une loi géométrique. Soit $X \sim G (p)$ , $q = 1 - p$ . On calcule d'abord $E (X (X - 1))$ par la formule de transfert, en utilisant la somme de la série entière $\sum_{k ⩾ 2} k (k - 1) x^{k - 2} = \frac{2}{(1 - x)^{3}}$ sur $] - 1, 1 [$ , obtenue en dérivant deux fois la série géométrique :

\begin{aligned} E (X (X - 1)) & = \sum_{k = 1}^{+ \infty} k (k - 1) p q^{k - 1} = p q \sum_{k = 2}^{+ \infty} k (k - 1) q^{k - 2} \\ = \frac{2 p q}{(1 - q)^{3}} = \frac{2 p q}{p^{3}} = \frac{2 q}{p^{2}} . \end{aligned}

Tous les termes étant positifs, cette somme est finie, donc $X^{2}$ est d'espérance finie et

E (X^{2}) = E (X (X - 1)) + E (X) = \frac{2 q}{p^{2}} + \frac{1}{p} = \frac{2 q + p}{p^{2}} = \frac{2 - p}{p^{2}},

en utilisant $2 q + p = 2 (1 - p) + p = 2 - p$ . Enfin, par Kœnig-Huygens,

V (X) = E (X^{2}) - E (X)^{2} = \frac{2 - p}{p^{2}} - \frac{1}{p^{2}} = \frac{1 - p}{p^{2}} = \frac{q}{p^{2}} .

Conclusion : $E (X) = \frac{1}{p}$ et $V (X) = \frac{1 - p}{p^{2}}$ .

Exemple

Variance d'une loi de Poisson. Soit $X \sim P (λ)$ . Les termes d'indices $0$ et $1$ de la somme suivante sont nuls, et pour $k ⩾ 2$ on simplifie $\frac{k (k - 1)}{k!} = \frac{1}{(k - 2)!}$ :

\begin{aligned} E (X (X - 1)) & = \sum_{k = 2}^{+ \infty} k (k - 1) e^{- λ} \frac{λ^{k}}{k!} = e^{- λ} λ^{2} \sum_{k = 2}^{+ \infty} \frac{λ^{k - 2}}{(k - 2)!} \\ = e^{- λ} λ^{2} e^{λ} = λ^{2} . \end{aligned}

Cette quantité étant finie, $X^{2}$ est d'espérance finie, avec $E (X^{2}) = λ^{2} + E (X) = λ^{2} + λ$ , puis

V (X) = E (X^{2}) - E (X)^{2} = λ^{2} + λ - λ^{2} = λ .

Conclusion : $E (X) = V (X) = λ$ . L'égalité de l'espérance et de la variance est une signature de la loi de Poisson.

Covariance

Définition

Soient $X$ et $Y$ deux variables aléatoires discrètes réelles dont les carrés sont d'espérance finie. On appelle covariance de $X$ et $Y$ le réel

C o v (X, Y) = E ((X - E (X)) (Y - E (Y))),

qui existe d'après l'inégalité de Cauchy-Schwarz. Les variables sont dites décorrélées lorsque $C o v (X, Y) = 0$ .

Propriété

Sous ces hypothèses :

Kœnig-Huygens bivariée : $C o v (X, Y) = E (X Y) - E (X) E (Y)$ ;
$C o v$ est symétrique, bilinéaire, et $C o v (X, X) = V (X)$ ;
$∣ C o v (X, Y) ∣ ⩽ σ (X) σ (Y)$ ;
si $X$ et $Y$ sont indépendantes, elles sont décorrélées ; la réciproque est fausse.

Démonstration. Posons $m = E (X)$ et $m^{'} = E (Y)$ . Pour le point 1, on développe par linéarité :

C o v (X, Y) = E (X Y - m^{'} X - m Y + m m^{'}) = E (X Y) - m^{'} m - m m^{'} + m m^{'} = E (X Y) - m m^{'} .

Le point 2 découle de la linéarité de l'espérance appliquée au développement du produit, et $C o v (X, X) = E ((X - m)^{2}) = V (X)$ par définition. Le point 3 est l'inégalité de Cauchy-Schwarz appliquée aux variables centrées $X - m$ et $Y - m^{'}$ , qui donne $C o v (X, Y)^{2} ⩽ V (X) V (Y)$ . Pour le point 4, si $X$ et $Y$ sont indépendantes, alors $E (X Y) = E (X) E (Y)$ , donc $C o v (X, Y) = 0$ par le point 1. $□$

Exemple

Décorrélées mais dépendantes. Soit $X$ de loi uniforme sur ${- 1, 0, 1}$ et $Y = X^{2}$ . Alors $E (X) = \frac{1}{3} (- 1 + 0 + 1) = 0$ et $X Y = X^{3} = X$ , donc $E (X Y) = E (X) = 0$ et

C o v (X, Y) = E (X Y) - E (X) E (Y) = 0.

Les variables sont donc décorrélées. Elles ne sont pourtant pas indépendantes : $Y$ est une fonction de $X$ , et le calcul le confirme, puisque $P (X = 0, Y = 0) = P (X = 0) = \frac{1}{3}$ alors que

P (X = 0) P (Y = 0) = \frac{1}{3} \times \frac{1}{3} = \frac{1}{9} \neq \frac{1}{3} .

Décorrélation et indépendance sont donc deux notions distinctes : la première ne mesure qu'une absence de liaison affine.

Propriété

Variance d'une somme finie. Soient $X_{1}, \dots, X_{n}$ des variables aléatoires discrètes réelles dont les carrés sont d'espérance finie. Alors $(\sum_{k} X_{k})^{2}$ est d'espérance finie et

V (\sum_{k = 1}^{n} X_{k}) = \sum_{k = 1}^{n} V (X_{k}) + 2 \sum_{1 ⩽ i < j ⩽ n} C o v (X_{i}, X_{j}) .

Si les variables sont deux à deux indépendantes, ou plus généralement deux à deux décorrélées, alors

V (\sum_{k = 1}^{n} X_{k}) = \sum_{k = 1}^{n} V (X_{k}) .

Démonstration. Posons $S = \sum_{k = 1}^{n} X_{k}$ et $m_{k} = E (X_{k})$ , de sorte que $E (S) = \sum_{k} m_{k}$ par linéarité. Chaque produit $X_{i} X_{j}$ est d'espérance finie par Cauchy-Schwarz, donc $S^{2} = \sum_{i, j} X_{i} X_{j}$ l'est aussi par linéarité, cette somme étant finie. On écrit alors

\begin{aligned} S - E (S) & = \sum_{k = 1}^{n} (X_{k} - m_{k}), \\ (S - E (S))^{2} & = \sum_{i = 1}^{n} \sum_{j = 1}^{n} (X_{i} - m_{i}) (X_{j} - m_{j}) . \end{aligned}

La linéarité de l'espérance sur une somme finie de variables d'espérance finie donne

\begin{aligned} V (S) & = \sum_{i = 1}^{n} \sum_{j = 1}^{n} C o v (X_{i}, X_{j}) \\ = \sum_{i = 1}^{n} C o v (X_{i}, X_{i}) + \sum_{i \neq j} C o v (X_{i}, X_{j}), \end{aligned}

où l'on a isolé les termes diagonaux. Or $C o v (X_{i}, X_{i}) = V (X_{i})$ , et par symétrie de la covariance les termes hors diagonale se regroupent deux par deux : $\sum_{i \neq j} C o v (X_{i}, X_{j}) = 2 \sum_{i < j} C o v (X_{i}, X_{j})$ . D'où la formule.

Si les variables sont deux à deux décorrélées, toutes les covariances d'indices distincts sont nulles et il ne reste que la somme des variances. L'indépendance deux à deux entraîne la décorrélation deux à deux, d'où le cas particulier annoncé. $□$

Fonctions génératrices

Dans toute cette section, $X$ est une variable aléatoire à valeurs dans $N$ . L'idée est de coder la suite $(P (X = n))_{n \in N}$ dans les coefficients d'une série entière, puis de laisser les théorèmes du chapitre sur les séries entières faire le travail.

Définition

La fonction génératrice de $X$ est la fonction

G_{X} : t ⟼ E (t^{X}) = \sum_{n = 0}^{+ \infty} P (X = n) t^{n},

définie au moins sur $[- 1, 1]$ d'après la propriété suivante.

Propriété

La série entière $\sum P (X = n) t^{n}$ a un rayon de convergence $R ⩾ 1$ , elle converge normalement sur $[- 1, 1]$ , et $G_{X}$ est continue sur $[- 1, 1]$ . De plus

G_{X} (1) = 1, G_{X} (0) = P (X = 0), \forall t \in [- 1, 1], ∣ G_{X} (t) ∣ ⩽ 1.

Démonstration. Posons $f_{n} (t) = P (X = n) t^{n}$ pour $t \in [- 1, 1]$ . Pour tout $t$ de cet intervalle, $∣ t^{n} ∣ ⩽ 1$ , donc

∥ f_{n} ∥_{\infty, [- 1, 1]} = \sup_{t \in [- 1, 1]} ∣ P (X = n) t^{n} ∣ = P (X = n),

la borne supérieure étant atteinte en $t = 1$ . Or $\sum_{n ⩾ 0} P (X = n) = 1 < + \infty$ : la série $\sum ∥ f_{n} ∥_{\infty}$ converge, donc $\sum f_{n}$ converge normalement sur $[- 1, 1]$ , donc uniformément, donc simplement.

En particulier la série numérique $\sum P (X = n) 1^{n}$ converge, ce qui donne $R ⩾ 1$ . Chaque $f_{n}$ étant continue sur $[- 1, 1]$ et la convergence y étant uniforme, la somme $G_{X}$ est continue sur $[- 1, 1]$ , y compris aux extrémités, ce qui n'est pas garanti par la seule théorie des séries entières.

Enfin $G_{X} (1) = \sum_{n} P (X = n) = 1$ , $G_{X} (0) = P (X = 0)$ , et pour $∣ t ∣ ⩽ 1$ l'inégalité triangulaire donne $∣ G_{X} (t) ∣ ⩽ \sum_{n} P (X = n) ∣ t ∣^{n} ⩽ \sum_{n} P (X = n) = 1$ . $□$

Propriété

$G_{X}$ caractérise la loi. Deux variables aléatoires à valeurs dans $N$ ont la même loi si et seulement si elles ont la même fonction génératrice. Précisément,

\forall n \in N, P (X = n) = \frac{G_{X}^{(n)} (0)}{n!} .

Démonstration. Si $X \sim Y$ , les coefficients coïncident, donc $G_{X} = G_{Y}$ . Réciproquement, $G_{X}$ est la somme d'une série entière de rayon $R ⩾ 1 > 0$ : par unicité du développement en série entière, ses coefficients sont ses coefficients de Taylor en $0$ , et l'égalité $G_{X} = G_{Y}$ sur un voisinage de $0$ force l'égalité des coefficients, c'est-à-dire $P (X = n) = P (Y = n)$ pour tout $n$ . $□$

Loi de $X$	$G_{X} (t)$	Validité
$B (p)$	$1 - p + p t$	$t \in R$
$B (n, p)$	$(1 - p + p t)^{n}$	$t \in R$
$G (p)$	$\frac{p t}{1 - (1 - p) t}$	$
$P (λ)$	$e^{λ (t - 1)}$	$t \in R$

Les deux premières lignes sont immédiates, la seconde par la formule du binôme. Pour la géométrique, $G_{X} (t) = \sum_{k ⩾ 1} p q^{k - 1} t^{k} = p t \sum_{j ⩾ 0} (q t)^{j} = \frac{p t}{1 - q t}$ dès que $∣ q t ∣ < 1$ . Pour la loi de Poisson, $G_{X} (t) = \sum_{k ⩾ 0} e^{- λ} \frac{(λ t)^{k}}{k!} = e^{- λ} e^{λ t} = e^{λ (t - 1)}$ , valable pour tout réel $t$ .

Propriété

Espérance et variance par $G_{X}$ .

$X$ est d'espérance finie si et seulement si $G_{X}$ est dérivable en $1$ , et alors $E (X) = G_{X}^{'} (1)$ .
$X^{2}$ est d'espérance finie si et seulement si $G_{X}$ est deux fois dérivable en $1$ , et alors

E (X (X - 1)) = G_{X}^{''} (1), V (X) = G_{X}^{''} (1) + G_{X}^{'} (1) - (G_{X}^{'} (1))^{2} .

Démonstration du sens direct du point 1. Supposons $X$ d'espérance finie, c'est-à-dire $\sum_{n ⩾ 1} n P (X = n) < + \infty$ . Posons $f_{n} (t) = P (X = n) t^{n}$ sur $[- 1, 1]$ : chaque $f_{n}$ est de classe $C^{1}$ , la série $\sum f_{n}$ converge simplement sur $[- 1, 1]$ , et pour tout $t \in [- 1, 1]$

∣ f_{n}^{'} (t) ∣ = ∣ n P (X = n) t^{n - 1} ∣ ⩽ n P (X = n),

majoration indépendante de $t$ dont la série converge par hypothèse. La série des dérivées $\sum f_{n}^{'}$ converge donc normalement sur $[- 1, 1]$ . Le théorème de dérivation terme à terme s'applique : $G_{X}$ est de classe $C^{1}$ sur $[- 1, 1]$ , en particulier dérivable en $1$ , et

G_{X}^{'} (1) = \sum_{n = 1}^{+ \infty} n P (X = n) = E (X) .

La réciproque, qui affirme que la dérivabilité de $G_{X}$ en $1$ entraîne l'existence de $E (X)$ , est admise : elle n'est pas exigible. Le point 2 s'obtient de la même manière avec la majoration $∣ f_{n}^{''} (t) ∣ ⩽ n (n - 1) P (X = n)$ , la formule de transfert donnant $G_{X}^{''} (1) = \sum_{n} n (n - 1) P (X = n) = E (X (X - 1))$ , puis $V (X) = E (X^{2}) - E (X)^{2}$ avec $E (X^{2}) = E (X (X - 1)) + E (X)$ . $□$

Exemple

Contrôle sur la loi de Poisson. Pour $X \sim P (λ)$ , $G_{X} (t) = e^{λ (t - 1)}$ , donc $G_{X}^{'} (t) = λ e^{λ (t - 1)}$ et $G_{X}^{''} (t) = λ^{2} e^{λ (t - 1)}$ . En $t = 1$ : $E (X) = G_{X}^{'} (1) = λ$ et $E (X (X - 1)) = G_{X}^{''} (1) = λ^{2}$ , d'où $V (X) = λ^{2} + λ - λ^{2} = λ$ . On retrouve bien les résultats de la section précédente.

Propriété

Somme de variables indépendantes. Si $X$ et $Y$ sont deux variables aléatoires à valeurs dans $N$ indépendantes, alors

\forall t \in [- 1, 1], G_{X + Y} (t) = G_{X} (t) G_{Y} (t) .

Plus généralement, si $X_{1}, \dots, X_{n}$ sont indépendantes à valeurs dans $N$ , alors $G_{X_{1} + \dots + X_{n}} = G_{X_{1}} \times \dots \times G_{X_{n}}$ .

Démonstration. Déterminons d'abord la loi de $X + Y$ , qui est à valeurs dans $N$ . La famille $((X = k))_{k \in N}$ est un système complet d'événements, et pour $n$ fixé l'événement $(X + Y = n) \cap (X = k)$ est égal à $(X = k) \cap (Y = n - k)$ , vide si $k > n$ . La formule des probabilités totales puis l'indépendance donnent donc

P (X + Y = n) = \sum_{k = 0}^{n} P (X = k, Y = n - k) = \sum_{k = 0}^{n} P (X = k) P (Y = n - k) .

Reconnaissons maintenant un produit de Cauchy. Fixons $t \in [- 1, 1]$ : les séries $\sum_{k} P (X = k) t^{k}$ et $\sum_{j} P (Y = j) t^{j}$ sont absolument convergentes, puisque majorées terme à terme par $P (X = k)$ et $P (Y = j)$ . Le théorème sur le produit de Cauchy de deux séries absolument convergentes s'applique : la série de terme général

\begin{aligned} c_{n} & = \sum_{k = 0}^{n} P (X = k) t^{k} \times P (Y = n - k) t^{n - k} \\ = (\sum_{k = 0}^{n} P (X = k) P (Y = n - k)) t^{n} = P (X + Y = n) t^{n} \end{aligned}

converge absolument, et sa somme est le produit des deux sommes. Autrement dit

\begin{aligned} G_{X + Y} (t) & = \sum_{n = 0}^{+ \infty} P (X + Y = n) t^{n} \\ = (\sum_{k = 0}^{+ \infty} P (X = k) t^{k}) (\sum_{j = 0}^{+ \infty} P (Y = j) t^{j}) = G_{X} (t) G_{Y} (t) . \end{aligned}

Le cas général s'obtient par récurrence sur $n$ , le lemme des coalitions garantissant que $X_{1} + \dots + X_{n - 1}$ et $X_{n}$ sont indépendantes. $□$

Inégalités et loi faible des grands nombres

Propriété

Inégalité de Markov. Soit $X$ une variable aléatoire positive d'espérance finie et $a > 0$ . Alors

P (X ⩾ a) ⩽ \frac{E (X)}{a} .

Démonstration. L'ensemble $X (Ω)$ est inclus dans $[0, + \infty [$ et tous les termes de la somme définissant $E (X)$ sont positifs. En ne conservant que les valeurs $x ⩾ a$ , puis en minorant chacune d'elles par $a$ , il vient

\begin{aligned} E (X) & = \sum_{x \in X (Ω)} x P (X = x) ⩾ \sum_{x \in X (Ω), x ⩾ a} x P (X = x) \\ ⩾ a \sum_{x \in X (Ω), x ⩾ a} P (X = x) = a P (X ⩾ a), \end{aligned}

la dernière égalité venant de ce que $(X ⩾ a)$ est la réunion disjointe et au plus dénombrable des $(X = x)$ pour $x ⩾ a$ . On divise par $a > 0$ . $□$

Propriété

Inégalité de Bienaymé-Tchebychev. Soit $X$ une variable aléatoire discrète réelle dont $X^{2}$ est d'espérance finie, et soit $ε > 0$ . En notant $m = E (X)$ ,

P (∣ X - m ∣ ⩾ ε) ⩽ \frac{V (X)}{ε^{2}} .

Démonstration. Posons $Y = (X - m)^{2}$ : c'est une variable aléatoire discrète positive, d'espérance finie égale à $V (X)$ . Comme $ε > 0$ , on a l'égalité d'événements

(∣ X - m ∣ ⩾ ε) = ((X - m)^{2} ⩾ ε^{2}) = (Y ⩾ ε^{2}),

la fonction carré étant croissante sur $[0, + \infty [$ . L'inégalité de Markov appliquée à $Y$ avec le seuil $a = ε^{2} > 0$ donne

P (∣ X - m ∣ ⩾ ε) = P (Y ⩾ ε^{2}) ⩽ \frac{E (Y)}{ε^{2}} = \frac{V (X)}{ε^{2}} . □

Lisez cette inégalité comme un contrôle universel de la dispersion : quelle que soit la loi, la probabilité de s'écarter de la moyenne de plus de $k$ écarts types est majorée par $\frac{1}{k^{2}}$ , ce qu'on obtient en posant $ε = k σ (X)$ . C'est grossier, mais cela ne suppose rien sur la loi.

Propriété

Loi faible des grands nombres. Soit $(X_{n})_{n ⩾ 1}$ une suite de variables aléatoires i.i.d. dont le carré est d'espérance finie. On note $m = E (X_{1})$ , $σ = σ (X_{1})$ et $S_{n} = \sum_{k = 1}^{n} X_{k}$ . Alors, pour tout $ε > 0$ et tout $n ⩾ 1$ ,

P (∣ \frac{S_{n}}{n} - m ∣ ⩾ ε) ⩽ \frac{σ^{2}}{n ε^{2}} \to_{n \to + \infty}^{} 0.

Démonstration. Fixons $n ⩾ 1$ et posons $M_{n} = \frac{S_{n}}{n}$ , la moyenne des $n$ premières variables.

Espérance de $M_{n}$ . Chaque $X_{k}$ est d'espérance finie, puisque son carré l'est, et suit la même loi que $X_{1}$ , donc $E (X_{k}) = m$ . Par linéarité de l'espérance sur une somme finie,

E (M_{n}) = \frac{1}{n} \sum_{k = 1}^{n} E (X_{k}) = \frac{1}{n} \times n m = m .

Variance de $M_{n}$ . Les variables $X_{1}, \dots, X_{n}$ sont indépendantes, donc en particulier deux à deux indépendantes, et leurs carrés sont d'espérance finie. La formule de la variance d'une somme finie de variables deux à deux indépendantes donne

V (S_{n}) = \sum_{k = 1}^{n} V (X_{k}) = n σ^{2},

toutes les $X_{k}$ ayant la même loi donc la même variance $σ^{2}$ . Puis, avec $V (a X) = a^{2} V (X)$ appliqué à $a = \frac{1}{n}$ ,

V (M_{n}) = V (\frac{1}{n} S_{n}) = \frac{1}{n^{2}} V (S_{n}) = \frac{n σ^{2}}{n^{2}} = \frac{σ^{2}}{n} .

Conclusion. L'inégalité de Bienaymé-Tchebychev appliquée à $M_{n}$ , dont l'espérance vaut $m$ , donne pour tout $ε > 0$

P (∣ M_{n} - m ∣ ⩾ ε) ⩽ \frac{V (M_{n})}{ε^{2}} = \frac{σ^{2}}{n ε^{2}} .

À $ε > 0$ fixé, le majorant est le terme général d'une suite de limite nulle, donc $P (∣ \frac{S_{n}}{n} - m ∣ ⩾ ε) \to 0$ par encadrement, cette probabilité étant positive. $□$

Exemple

Interprétation fréquentiste. Prenons $X_{k} \sim B (p)$ i.i.d., où $(X_{k} = 1)$ signifie « la $k$ -ième épreuve est un succès ». Alors $S_{n}$ est le nombre de succès en $n$ épreuves et $\frac{S_{n}}{n}$ est la fréquence observée des succès. Ici $m = p$ et $σ^{2} = p (1 - p) ⩽ \frac{1}{4}$ , cette majoration résultant de l'étude du trinôme $p \mapsto p (1 - p)$ , maximal en $p = \frac{1}{2}$ . La loi faible des grands nombres donne donc, pour tout $ε > 0$ ,

P (∣ \frac{S_{n}}{n} - p ∣ ⩾ ε) ⩽ \frac{p (1 - p)}{n ε^{2}} ⩽ \frac{1}{4 n ε^{2}} \to_{n \to + \infty}^{} 0.

Voilà le contenu mathématique exact de l'intuition « la fréquence se rapproche de la probabilité » : pour $n$ assez grand, il est très peu probable que la fréquence observée s'écarte de $p$ de plus de $ε$ . L'énoncé ne dit rien de plus, et il ne faut rien lui faire dire de plus.

Méthodes types

Méthode

Reconnaître une loi géométrique dans un énoncé. Trois conditions doivent être réunies, et il faut les vérifier explicitement dans la copie.

1. Une même épreuve, à deux issues (succès ou échec), est répétée. 2. Les répétitions sont indépendantes et la probabilité de succès $p$ est la même à chaque répétition. 3. La variable étudiée est le rang du premier succès, à valeurs dans $N^{*}$ .

On conclut alors $X \sim G (p)$ , d'où immédiatement $P (X = k) = p (1 - p)^{k - 1}$ , $P (X > k) = (1 - p)^{k}$ , $E (X) = \frac{1}{p}$ et $V (X) = \frac{1 - p}{p^{2}}$ .

Deux pièges classiques. Si la variable compte le nombre d'échecs avant le premier succès, elle vaut $X - 1$ et prend ses valeurs dans $N$ : sa loi n'est pas $G (p)$ , mais on obtient tout par translation, $E (X - 1) = \frac{1}{p} - 1 = \frac{q}{p}$ et $V (X - 1) = V (X)$ . Et si l'énoncé laisse une chance que le succès n'arrive jamais, penser à traiter cet événement : il est négligeable dès que $p > 0$ , par continuité décroissante.

Méthode

Déterminer une loi par la méthode des événements $(X > k)$ . Lorsque l'événement $(X = k)$ est pénible à décrire mais que $(X > k)$ ou $(X ⩽ k)$ est simple, on procède en trois temps.

1. Calculer $P (X > k)$ pour tout $k$ . C'est le cas typique d'un maximum ou d'un minimum : si $X = \max (Y_{1}, \dots, Y_{n})$ , alors $(X ⩽ k) = ⋂_{i} (Y_{i} ⩽ k)$ , ce qui se factorise par indépendance. Si $X = \min (Y_{1}, \dots, Y_{n})$ , c'est $(X > k) = ⋂_{i} (Y_{i} > k)$ qui se factorise.

2. Revenir à la loi par différence. Comme $(X > k - 1) = (X = k) ⊔ (X > k)$ pour une variable à valeurs entières,

P (X = k) = P (X > k - 1) - P (X > k) .

3. Vérifier. Contrôler que les $P (X = k)$ obtenus sont positifs et de somme $1$ : c'est gratuit et cela détecte la quasi-totalité des erreurs d'indice.

Méthode

Calculer une espérance par la formule des queues. Réflexe à avoir dès que $X$ est à valeurs dans $N$ et que $P (X ⩾ n)$ est plus simple que $P (X = n)$ , ce qui est exactement la situation produite par la méthode précédente.

On écrit $E (X) = \sum_{n ⩾ 1} P (X ⩾ n)$ , la formule étant valable dans $[0, + \infty]$ : on peut donc l'appliquer avant de savoir si l'espérance est finie, et c'est même souvent ainsi qu'on l'établit. Si la série converge, $X$ est d'espérance finie et on a sa valeur ; si elle diverge, $E (X) = + \infty$ et il n'y a rien de plus à dire.

Méthode

Calculer une espérance par décomposition en indicatrices. C'est la méthode la plus rentable du chapitre, et elle contourne complètement la détermination de la loi.

1. Écrire $X = \sum_{i = 1}^{n} 1_{A_{i}}$ , où les $A_{i}$ sont des événements bien choisis, typiquement « l'objet $i$ possède la propriété étudiée ». 2. Appliquer la linéarité sur cette somme finie :

E (X) = \sum_{i = 1}^{n} E (1_{A_{i}}) = \sum_{i = 1}^{n} P (A_{i}) .

3. Calculer chaque $P (A_{i})$ , ce qui est en général très simple.

Le point décisif est que la linéarité de l'espérance ne demande aucune indépendance : les $A_{i}$ peuvent être fortement liés, la formule reste vraie. Pour la variance, en revanche, il faudra reprendre la formule de la variance d'une somme et calculer les covariances $C o v (1_{A_{i}}, 1_{A_{j}}) = P (A_{i} \cap A_{j}) - P (A_{i}) P (A_{j})$ .

Méthode

Utiliser une fonction génératrice pour identifier la loi d'une somme. Trois étapes, à condition que les variables soient à valeurs dans $N$ et indépendantes.

1. Écrire les fonctions génératrices des variables en jeu, en citant le tableau des lois usuelles. 2. Multiplier : $G_{X + Y} = G_{X} G_{Y}$ . 3. Reconnaître le résultat dans le tableau et conclure par le fait que la fonction génératrice caractérise la loi.

Exemple. Soient $X \sim P (λ)$ et $Y \sim P (μ)$ indépendantes. Pour tout $t \in [- 1, 1]$ ,

G_{X + Y} (t) = e^{λ (t - 1)} e^{μ (t - 1)} = e^{(λ + μ) (t - 1)},

qui est la fonction génératrice de $P (λ + μ)$ . Donc $X + Y \sim P (λ + μ)$ . Le même raisonnement avec $X \sim B (n, p)$ et $Y \sim B (n^{'}, p)$ indépendantes, de même paramètre $p$ , donne $G_{X + Y} (t) = (1 - p + p t)^{n + n^{'}}$ , donc $X + Y \sim B (n + n^{'}, p)$ .

Méthode

Dimensionner un échantillon par Bienaymé-Tchebychev. Situation type : on estime une proportion inconnue $p$ par la fréquence observée $\frac{S_{n}}{n}$ sur $n$ observations indépendantes, et l'on veut garantir une précision $ε$ avec un risque au plus $α$ .

1. Majorer la variance. Pour des variables de Bernoulli, $σ^{2} = p (1 - p) ⩽ \frac{1}{4}$ , majoration valable sans connaître $p$ , ce qui est indispensable puisque $p$ est justement l'inconnue. 2. Écrire l'inégalité : $P (∣ \frac{S_{n}}{n} - p ∣ ⩾ ε) ⩽ \frac{1}{4 n ε^{2}}$ . 3. Résoudre en $n$ l'inéquation $\frac{1}{4 n ε^{2}} ⩽ α$ , soit $n ⩾ \frac{1}{4 α ε^{2}}$ .

Application numérique. Pour $ε = 0,01$ et $α = 0,05$ , on obtient

n ⩾ \frac{1}{4 \times 0,05 \times (0,01)^{2}} = \frac{1}{4 \times 0,05 \times 10^{- 4}} = \frac{1}{2 \times 10^{- 5}} = 50 000.

Un échantillon de $50 000$ observations suffit donc à garantir un écart inférieur à $0,01$ avec une probabilité d'au moins $0,95$ . La majoration est volontairement pessimiste : c'est le prix à payer pour une garantie valable quelle que soit la loi.

Le cours en PDF(PDF, 186 Ko)

Bloqué sur « Variables aléatoires discrètes » ?

On peut le travailler ensemble dès cette semaine. La première heure est offerte — on fait le point honnêtement, et vous repartez au minimum avec une méthode.

Réserver ma 1ʳᵉ heure offerte