Sommes de variables aléatoires

Le chapitre précédent nous a appris à étudier une variable aléatoire : sa loi, son espérance, sa variance. Mais les situations réelles en combinent presque toujours plusieurs. Le joueur qui enchaîne les parties s'intéresse à son gain cumulé, pas au gain d'une seule partie ; l'industriel qui possède deux ateliers veut prévoir leur production totale ; le scientifique qui répète $n$ fois la même mesure raisonne sur la moyenne de ses résultats. Chaque fois, la quantité intéressante est une somme — ou une moyenne, qui n'est qu'une somme divisée par $n$ — de variables aléatoires.

Faut-il, pour étudier une telle somme, déterminer entièrement sa loi ? Ce serait souvent un travail considérable : la somme de dix dés prend déjà cinquante et une valeurs. Heureusement, deux outils remarquables permettent d'accéder directement à l'essentiel. Le premier est la linéarité de l'espérance : l'espérance d'une somme est la somme des espérances, toujours, sans la moindre hypothèse. Le second est l'additivité de la variance : la variance d'une somme est la somme des variances, mais cette fois à une condition, l'indépendance des variables — une notion que le modèle de la succession d'épreuves indépendantes du chapitre précédent nous fournit gratuitement.

Ces deux outils vont produire des dividendes immédiats : l'espérance $np$ et la variance $np(1-p)$ de la loi binomiale, obtenues par une démonstration élégante — exigible au baccalauréat — qui découpe la binomiale en petites variables de Bernoulli ; puis le comportement de la somme et de la moyenne d'un échantillon, où l'on verra la moyenne se resserrer autour de l'espérance à mesure que l'échantillon grandit. Ce dernier phénomène, la concentration, ouvrira la porte du chapitre suivant.

Somme de deux variables aléatoires

Commençons par donner un sens précis aux objets du chapitre. Une fête foraine propose un jeu à deux roues que l'on fait tourner l'une après l'autre, de façon indépendante. La roue A comporte deux secteurs de même taille marqués $1$ et $2$ ; la roue B comporte quatre secteurs de même taille, un marqué $1$ et trois marqués $2$. Le joueur gagne, en euros, la somme des deux nombres obtenus. Notons $X$ le gain fourni par la roue A et $Y$ celui fourni par la roue B : le gain total du joueur est une nouvelle variable aléatoire, naturellement notée $X+Y$. Pour que cette écriture ait un sens, il faut que $X$ et $Y$ soient définies sur la même expérience aléatoire — ici la succession des deux épreuves, dont l'univers est l'ensemble des couples de résultats.

Ces définitions n'ont rien de mystérieux : on ajoute ou on multiplie les valeurs, issue par issue. Si la fête foraine double tous les gains un jour de promotion, le gain de la roue A devient $2X$ ; si elle offre en plus un euro à chaque joueur, il devient $2X+1$. Pour déterminer la loi d'une somme, on revient aux issues de l'expérience globale : on passe en revue les couples de résultats possibles, on calcule la somme associée à chacun, puis on regroupe les couples donnant la même somme.

La méthode fonctionne, mais son coût croît vite : avec deux dés il faudrait examiner $36$ couples, avec dix dés plus de soixante millions de listes. Si l'on ne s'intéresse qu'à l'espérance de la somme, un raccourci spectaculaire existe.

Linéarité de l'espérance

Cette propriété est admise dans le cas général, mais vérifions-la sur l'exemple des deux roues, où toutes les lois sont connues. D'une part $E(X)=1\times {\displaystyle \frac{1}{2}}+2\times {\displaystyle \frac{1}{2}}={\displaystyle \frac{3}{2}}$ et $E(Y)=1\times {\displaystyle \frac{1}{4}}+2\times {\displaystyle \frac{3}{4}}={\displaystyle \frac{7}{4}}$, d'où $E(X)+E(Y)={\displaystyle \frac{3}{2}}+{\displaystyle \frac{7}{4}}={\displaystyle \frac{13}{4}}$. D'autre part, la loi de $S$ obtenue plus haut donne directement $E(S)=2\times \frac{1}{8}+3\times \frac{1}{2}+4\times \frac{3}{8}=\frac{2+12+12}{8}=\frac{13}{4}\mathrm{.}$ Les deux calculs coïncident : le joueur gagne en moyenne $\mathrm{3,25}$ euros par partie. La linéarité s'étend de proche en proche à un nombre quelconque de variables : $E(X_1+X_2+\cdots +X_n)=E(X_1)+E(X_2)+\cdots +E(X_n)$.

La vraie force de cette propriété est de donner l'espérance d'une somme sans jamais déterminer sa loi. C'est une méthode à part entière, très rentable au baccalauréat.

Variables indépendantes et variance d'une somme

L'espérance mesure la valeur moyenne ; la variance mesure la dispersion. Peut-on, comme pour l'espérance, additionner les variances ? La réponse est plus délicate : deux variables peuvent se compenser (quand l'une est grande, l'autre est petite) ou au contraire se renforcer, et la dispersion de leur somme en dépend. L'addition des variances n'est légitime que si les variables ne s'influencent pas — si elles sont indépendantes. En terminale, cette notion est toujours fournie par le modèle du chapitre précédent : on ne demandera jamais de démontrer une indépendance, elle découle de la construction de l'expérience.

C'est le cas des deux roues de la fête foraine : $X$ ne dépend que de la roue A, $Y$ que de la roue B, et les deux roues tournent indépendamment. À l'inverse, si $Y$ se calculait à partir du même résultat que $X$ — par exemple $Y=-X$ —, les deux variables ne seraient pas indépendantes.

La relation $V(aX)=a^{2}V(X)$ se justifie en quelques lignes avec la formule de König-Huygens $V(T)=E(T^2)-E(T{)}^2$ et la linéarité de l'espérance :

$$\begin{array}{rl}{\displaystyle V(aX)}& {\displaystyle =E((aX{)}^2)-(E(aX){)}^2=E\left(a^2{X}^2\right)-(aE(X){)}^2}\\ {\displaystyle }& {\displaystyle =a^{2}E(X^2)-a^{2}E(X{)}^2=a^2(E(X^2)-E(X{)}^2)=a^{2}V(X)\mathrm{.}}\end{array}$$

En passant à la racine carrée, $\sigma (aX)=\sqrt{a^{2}V(X)}=\mathrm{\mid }a\mathrm{\mid }\sigma (X)$ : multiplier une variable par $a$ multiplie son écart type par $\mathrm{\mid }a\mathrm{\mid }$ — et le carré de la variance explique la valeur absolue, car une dispersion ne peut pas être négative.

Comme la linéarité de l'espérance, l'additivité s'étend de proche en proche : si $X_1,X_2,\dots ,X_n$ portent sur des épreuves deux à deux distinctes d'une succession d'épreuves indépendantes, alors $V(X_1+\cdots +X_n)=V(X_1)+\cdots +V(X_n)$. Nous voilà armés pour le résultat central du chapitre.

Espérance et variance de la loi binomiale

Soit $X$ une variable aléatoire suivant la loi binomiale $\mathcal{B}(n;p)$. Calculer $E(X)$ à partir de la loi obligerait à évaluer la somme des $k{\displaystyle \left(\genfrac{}{}{0px}{}{n}{k}\right)}{p}^k(1-p{)}^{n-k}$ — un calcul rebutant. La bonne idée est toute autre : puisque $X$ compte les succès d'un schéma de Bernoulli, découpons ce comptage épreuve par épreuve. C'est la démonstration exigible du chapitre.

Démonstration. La variable $X$ compte le nombre de succès d'un schéma de Bernoulli de paramètres $n$ et $p$. Pour chaque entier $i$ compris entre $1$ et $n$, notons $X_i$ la variable aléatoire qui vaut $1$ si la $i$-ième épreuve donne un succès, et $0$ sinon. Chaque $X_i$ suit la loi de Bernoulli de paramètre $p$, et compter les succès revient à additionner ces $n$ variables : $X=X_1+X_2+\cdots +X_n\mathrm{.}$

Espérance et variance d'une variable de Bernoulli. La loi de $X_i$ donne $E(X_i)=1\times p+0\times (1-p)=p$. Par ailleurs $X_i^2$ prend les mêmes valeurs que $X_i$ (car $0^2=0$ et $1^2=1$), donc $E(X_i^2)=p$, et la formule de König-Huygens fournit $V(X_i)=E(X_i^2)-E(X_i{)}^2=p-p^2=p(1-p)\mathrm{.}$

Espérance de $X$. La linéarité de l'espérance, qui ne demande aucune hypothèse, donne $E(X)=E(X_1)+E(X_2)+\cdots +E(X_n)=np\mathrm{.}$

Variance de $X$. Les variables $X_1,X_2,\dots ,X_n$ portent sur des épreuves distinctes d'une succession d'épreuves indépendantes : elles sont indépendantes. L'additivité de la variance s'applique donc : $V(X)=V(X_1)+V(X_2)+\cdots +V(X_n)=np(1-p)\mathrm{.}$

Enfin $\sigma (X)=\sqrt{V(X)}=\sqrt{np(1-p)}$. $\mathrm{\square }$

La formule $E(X)=np$ confirme l'intuition : sur $n$ répétitions d'une épreuve réussie avec probabilité $p$, on attend « en moyenne » une proportion $p$ de succès. Quant à la variance $np(1-p)$, elle est maximale pour $p=\mathrm{0,5}$ — le hasard le plus imprévisible — et s'annule pour $p=0$ ou $p=1$, où le résultat est certain.

Échantillon de taille $n$ : somme et moyenne

Terminons par la situation la plus féconde : la répétition à l'identique d'une même expérience. Un laborantin mesure $n$ fois la même grandeur, un sondeur interroge $n$ personnes, un joueur lance $n$ fois le même dé. Chaque répétition produit une variable aléatoire, et toutes suivent la même loi : cette collection porte un nom.

Notons $\mu$ l'espérance, $V$ la variance et $\sigma$ l'écart type communs aux variables $X_i$. Les outils du chapitre donnent immédiatement les caractéristiques de $S_n$ et de $M_n$.

En effet, la linéarité de l'espérance donne $E(S_n)=E(X_1)+\cdots +E(X_n)=n\mu$ ; les variables de l'échantillon étant indépendantes, l'additivité de la variance donne $V(S_n)=V(X_1)+\cdots +V(X_n)=nV$, puis $\sigma (S_n)=\sqrt{nV}=\sigma \sqrt{n}$.

La démonstration tient en une ligne : comme $M_n={\displaystyle \frac{1}{n}}{S}_n$, on a $E(M_n)={\displaystyle \frac{1}{n}}E(S_n)={\displaystyle \frac{n\mu }{n}}=\mu$ et $V(M_n)={\displaystyle \frac{1}{n^2}}V(S_n)={\displaystyle \frac{nV}{n^2}}={\displaystyle \frac{V}{n}}$, d'où $\sigma (M_n)={\displaystyle \frac{\sigma }{\sqrt{n}}}$.

On reconnaît au passage une vieille connaissance : une variable suivant la loi $\mathcal{B}(n;p)$ est exactement la somme $S_n$ d'un échantillon de taille $n$ de la loi de Bernoulli de paramètre $p$ — c'est la décomposition de la section précédente. Les formules $E(S_n)=n\mu$ et $V(S_n)=nV$, appliquées avec $\mu =p$ et $V=p(1-p)$, redonnent bien $np$ et $np(1-p)$.

Ces formules racontent deux histoires opposées. La somme $S_n$ se disperse de plus en plus quand $n$ grandit — son écart type $\sigma \sqrt{n}$ croît sans limite. La moyenne $M_n$, elle, fait exactement l'inverse : son espérance reste égale à $\mu$ quelle que soit la taille de l'échantillon, mais son écart type ${\displaystyle \frac{\sigma }{\sqrt{n}}}$ diminue quand $n$ augmente. Autrement dit, la moyenne d'un grand échantillon fluctue de moins en moins : elle se concentre autour de $\mu$. Attention au rythme de cette concentration : à cause de la racine carrée, diviser l'écart type par $10$ exige de multiplier la taille de l'échantillon par $100$.

Le phénomène se voit remarquablement bien sur un exemple. Prenons pour loi commune celle d'un dé équilibré, d'espérance $\mu =\mathrm{3,5}$ et d'écart type $\sigma =\sqrt{{\displaystyle \frac{35}{12}}}\approx \mathrm{1,71}$, et traçons les lois exactes de la moyenne $M_n$ de $n$ lancers, pour $n=1$, $2$ et $4$.

Les trois distributions sont centrées sur la même valeur $\mathrm{3,5}$, matérialisée par le trait pointillé : conformément à $E(M_n)=\mu$, augmenter $n$ ne déplace pas le centre. Mais la dispersion fond à vue d'œil : l'écart type passe de $\sigma (M_1)=\sigma \approx \mathrm{1,71}$ (loi uniforme du dé seul) à $\sigma (M_2)={\displaystyle \frac{\sigma }{\sqrt{2}}}\approx \mathrm{1,21}$ pour la moyenne de deux lancers, puis à $\sigma (M_4)={\displaystyle \frac{\sigma }{2}}\approx \mathrm{0,85}$ pour quatre lancers. Les valeurs extrêmes ($1$ ou $6$ de moyenne) deviennent très improbables, et la probabilité s'accumule près de $\mathrm{3,5}$ : la moyenne « oublie » les accidents des lancers individuels.

En résumé : la linéarité de l'espérance additionne les espérances sans aucune condition, l'additivité de la variance additionne les variances des variables indépendantes, et ce duo a livré sans effort l'espérance $np$ et la variance $np(1-p)$ de la loi binomiale, puis les formules $E(M_n)=\mu$ et $\sigma (M_n)={\displaystyle \frac{\sigma }{\sqrt{n}}}$ pour la moyenne d'un échantillon. Cette dernière formule est une promesse : la moyenne d'un grand échantillon se concentre autour de l'espérance de la loi. Le chapitre suivant tiendra cette promesse en la quantifiant — avec quelle probabilité, et à quelle distance de $\mu$, peut-on garantir que la moyenne se trouve ?