ECG appliquées · Chapitre 13 · Troisième semestre

Probabilités et statistiques : statistiques bivariées et couples

2e année

Statistiques bivariées, couples de variables aléatoires discrètes, suites de variables aléatoires discrètes.

Ce qu'il faut savoir faire

  • Statistiques bivariées
  • Couples de variables aléatoires discrètes
  • Suites de variables aléatoires discrètes

Jusqu'ici, les statistiques et les probabilités n'ont su décrire qu'une seule grandeur à la fois : une série d'observations (x1,,xn) résumée par sa moyenne et son écart-type, une variable aléatoire X résumée par son espérance et sa variance. Or l'économie et les sciences sociales ne posent presque jamais de question à une seule variable. On ne demande pas « quel est le budget publicitaire moyen ? », on demande « les entreprises qui dépensent davantage en publicité vendent-elles davantage ? ». On ne demande pas « quelle est la croissance moyenne du PIB ? », on demande « quand la croissance accélère, le chômage recule-t-il, et de combien ? ». Ces questions portent sur un lien entre deux grandeurs, et c'est l'objet de ce chapitre.

Le lien se décline en deux versions, qu'il faut soigneusement distinguer parce que les exercices passent de l'une à l'autre sans prévenir.

La première version est descriptive. On dispose de données déjà observées, deux nombres par individu, et l'on cherche à décrire la tendance qu'elles dessinent : c'est la statistique bivariée de la partie 1. Les objets y sont des nombres calculés sur des données, la covariance empirique sxy et le coefficient de corrélation empirique rxy, et le résultat central est la droite des moindres carrés, celle qui ajuste au mieux le nuage de points.

La seconde version est probabiliste. On modélise deux grandeurs aléatoires par un couple (X,Y) de variables aléatoires définies sur le même espace probabilisé, et l'on cherche à décrire leur dépendance avant même d'avoir observé quoi que ce soit : ce sont les parties 2 et 3. Les objets y sont des espérances, la covariance Cov(X,Y) et le coefficient de corrélation ρ(X,Y).

Les deux mondes ont volontairement la même algèbre : même formule de Kœnig-Huygens, même encadrement entre 1 et 1, même cas d'égalité. Ils n'ont pourtant pas le même statut. sxy se calcule sur un tableau de données réelles, Cov(X,Y) se calcule sur une loi. Confondre les deux dans une copie, en écrivant par exemple xˉ là où il faut E(X), est une faute lourde. Une bonne habitude : dès qu'apparaît la barre de la moyenne xˉ et l'indice i des individus, on est dans la partie descriptive ; dès qu'apparaît P([X=x]), on est dans la partie probabiliste.

Il faut dire tout de suite ce qui, dans ce chapitre, est admis. Quatre résultats seulement, et ce sont exactement ceux que le programme admet : le théorème de transfert pour un couple, la linéarité de l'espérance, l'égalité E(XY)=E(X)E(Y) pour deux variables indépendantes, et le lemme des coalitions. On admet également, comme le demande le programme, que toutes les manipulations de sommes indexées par des ensembles dénombrables (interversion de deux sommations, regroupement de termes) sont licites : aucune question de convergence ne sera soulevée. Tout le reste est démontré ici, y compris les deux théorèmes de stabilité, et peut vous être redemandé. Deux résultats purement techniques sont en outre admis au moment où ils servent, et signalés en place : la formule de Vandermonde, qui intervient dans la démonstration de la stabilité binomiale, et l'indépendance des temps d'attente successifs dans l'exemple du collectionneur.

Voici les notations employées dans tout le chapitre.

Notation Signification
(xi,yi)1in série statistique double : deux mesures sur chacun des n individus
xˉ, yˉ moyennes des deux séries
sx2, sy2 variances empiriques ; sx, sy écarts-types empiriques
sxy covariance empirique de la série double
rxy coefficient de corrélation linéaire empirique
G(xˉ,yˉ) point moyen du nuage
(X,Y) couple de variables aléatoires discrètes
pi,j P([X=xi][Y=yj]), loi conjointe
pi,, p,j lois marginales de X et de Y
E(X), V(X), σ(X) espérance, variance, écart-type
Cov(X,Y) covariance des variables X et Y
ρ(X,Y) coefficient de corrélation linéaire de X et Y
1A indicatrice de l'événement A : vaut 1 si A est réalisé, 0 sinon
XB(n,p) « X suit la loi binomiale de paramètres n et p »
[ ⁣[a,b] ⁣] ensemble des entiers k tels que akb
fin d'une démonstration

Statistiques bivariées

Série statistique double, nuage de points et point moyen

Définition

Une série statistique double est la donnée, pour chacun des n individus d'une population, de deux caractères quantitatifs. On la note

(xi,yi)1in,

xi et yi sont les deux mesures relevées sur l'individu numéro i.

Le nuage de points associé est l'ensemble des n points Mi(xi,yi) du plan rapporté à un repère orthogonal.

Le point moyen du nuage est le point

G(xˉ,yˉ),avecxˉ=1ni=1nxietyˉ=1ni=1nyi.

Attention à ce que compte l'indice : i numérote les individus, pas les valeurs distinctes. Deux individus peuvent parfaitement porter le même couple de valeurs, et le point correspondant est alors compté deux fois dans les moyennes, même s'il n'apparaît qu'une fois sur le dessin.

Les indicateurs de dispersion de chacune des deux séries sont ceux du chapitre de statistiques univariées, et ils resservent tels quels.

Propriété

Rappels de statistique à une variable. Pour la série (x1,,xn), la variance empirique et l'écart-type empirique sont

sx2=1ni=1n(xixˉ)2=1ni=1nxi2xˉ2,sx=sx2.

La seconde écriture est la formule de Kœnig-Huygens : la variance est la moyenne des carrés moins le carré de la moyenne. On définit de même sy2 et sy.

Dans une étude bivariée, les deux variables ne jouent presque jamais le même rôle.

Définition

Lorsque l'on cherche à décrire y à partir de x, on dit que x est la variable explicative et que y est la variable à expliquer. Par convention, la variable explicative se porte en abscisse et la variable à expliquer en ordonnée.

Ce choix relève de la modélisation, pas du calcul : c'est l'économiste qui décide que la dépense publicitaire explique les ventes, et non l'inverse. Il n'est pas neutre, et l'étude des moindres carrés montrera qu'échanger les deux rôles change la droite obtenue.

Nuage de points, point moyen et droite de régression

Exemple

L'exemple filé du chapitre. Une entreprise relève, sur cinq exercices comptables, sa dépense de publicité x et son chiffre d'affaires y, tous deux en milliers d'euros.

Année i 1 2 3 4 5
Publicité xi 1 2 3 4 5
Ventes yi 2 3 5 4 6

Ici n=5, la variable explicative est x et la variable à expliquer est y. Les moyennes valent

xˉ=1+2+3+4+55=155=3,yˉ=2+3+5+4+65=205=4,

donc le point moyen est G(3,4). Pour les variances, on passe par Kœnig-Huygens :

i=15xi2=1+4+9+16+25=55,sx2=55532=119=2,i=15yi2=4+9+25+16+36=90,sy2=90542=1816=2.

Les deux séries ont donc la même dispersion, sx=sy=2. C'est cette série que l'on retrouvera à chaque étape de la partie 1, et qui est représentée sur la figure ci-dessus.

Covariance empirique

La variance mesure la dispersion d'une série. La covariance mesure la façon dont deux séries varient ensemble.

Définition

La covariance empirique de la série double (xi,yi)1in est le réel

sxy=1ni=1n(xixˉ)(yiyˉ).

Trois remarques immédiates. D'abord, la covariance est symétrique : sxy=syx, puisque le produit de deux réels ne dépend pas de leur ordre. Ensuite, en prenant y=x, on retrouve la variance :

sxx=1ni=1n(xixˉ)2=sx2.

La covariance généralise donc la variance. Enfin, contrairement à une variance, une covariance peut être négative : c'est même toute son utilité.

Propriété

Formule de Kœnig-Huygens pour la covariance.

sxy=1ni=1nxiyixˉyˉ.

Autrement dit : la moyenne des produits moins le produit des moyennes.

Démonstration. Développons le produit à l'intérieur de la somme, en gardant à l'esprit que xˉ et yˉ sont des constantes vis-à-vis de l'indice i :

sxy=1ni=1n(xiyiyˉxixˉyi+xˉyˉ)=1ni=1nxiyi    yˉ×1ni=1nxi    xˉ×1ni=1nyi  +  1n×nxˉyˉ=1ni=1nxiyi    yˉxˉ    xˉyˉ  +  xˉyˉ=1ni=1nxiyixˉyˉ.

On a utilisé successivement la linéarité de la somme finie, les définitions 1nxi=xˉ et 1nyi=yˉ, et le fait qu'une somme de n termes tous égaux à la constante xˉyˉ vaut nxˉyˉ.

C'est cette seconde écriture qu'il faut utiliser pour tout calcul numérique : elle ne demande qu'une ligne de produits xiyi dans le tableau, alors que la définition oblige à soustraire les deux moyennes à chacune des 2n données, ce qui multiplie les occasions de se tromper.

Propriété

Signe de la covariance. Le signe de sxy indique le sens de la liaison :

  • sxy>0 : le nuage est globalement croissant, les grandes valeurs de x vont avec les grandes valeurs de y ;
  • sxy<0 : le nuage est globalement décroissant ;
  • sxy=0 : il n'y a pas de tendance linéaire dominante.

La lecture graphique se fait en partageant le plan en quatre quadrants par les droites d'équations x=xˉ et y=yˉ, qui se coupent au point moyen G. Un point situé en haut à droite ou en bas à gauche de G a ses deux écarts de même signe, donc son produit (xixˉ)(yiyˉ) est positif. Un point situé en haut à gauche ou en bas à droite a ses deux écarts de signes contraires, donc un produit négatif. La covariance est la moyenne de ces n produits : son signe dit simplement quels quadrants l'emportent.

Propriété

Effet d'un changement d'unité. Soient a, b, c, d quatre réels. Posons xi=axi+b et yi=cyi+d pour tout i. Alors

sxy=acsxy,sx2=a2sx2,sx=asx.

Démonstration. La moyenne d'une série transformée de façon affine se transforme de la même façon : xˉ=axˉ+b, résultat démontré au chapitre de statistiques univariées. Par conséquent, pour tout indice i,

xixˉ=(axi+b)(axˉ+b)=a(xixˉ),

et de même yiyˉ=c(yiyˉ) : les constantes additives disparaissent. En reportant dans la définition de la covariance,

sxy=1ni=1na(xixˉ)×c(yiyˉ)=ac×1ni=1n(xixˉ)(yiyˉ)=acsxy.

Le cas de la variance s'obtient en prenant y=x, c=a et d=b, ce qui donne sx2=a2sx2, puis sx=a2sx2=asx car un écart-type est positif.

Deux conséquences pratiques. D'une part, translater les données ne change pas la covariance : changer l'origine des années ou retrancher une constante à toutes les valeurs est donc gratuit, et c'est un allègement de calcul très utile. D'autre part, la covariance dépend des unités : exprimer une dépense en euros plutôt qu'en milliers d'euros la multiplie par 1000. Un nombre qui change quand on change d'unité ne peut pas servir à mesurer l'intensité d'une liaison, et c'est précisément ce défaut que le coefficient de corrélation va corriger.

Exemple

Covariance de l'exemple filé. Calculons-la des deux façons, pour vérifier la formule.

Par la définition. Les écarts à la moyenne valent, dans l'ordre des cinq années,

xixˉ:  2,  1,  0,  1,  2etyiyˉ:  2,  1,  1,  0,  2.

Les produits sont donc 4, 1, 0, 0, 4, de somme 9, d'où sxy=95=1,8.

Par Kœnig-Huygens. On calcule la ligne des produits :

i=15xiyi=1×2+2×3+3×5+4×4+5×6=2+6+15+16+30=69,

puis

sxy=6953×4=13,812=1,8.

Les deux méthodes concordent. La covariance est positive : les années de forte dépense publicitaire sont plutôt les années de fort chiffre d'affaires.

Changement d'unité. Si l'on exprimait la publicité en euros, c'est-à-dire xi=1000xi, la covariance deviendrait sxy=1000×1,8=1800, sans que la liaison ait changé d'un iota. Le nombre 1,8 n'a donc, à lui seul, aucune signification intrinsèque.

Coefficient de corrélation linéaire empirique

Définition

Lorsque sx0 et sy0, le coefficient de corrélation linéaire empirique de la série double est le réel

rxy=sxysxsy.

L'hypothèse sx0 signifie que les xi ne sont pas tous égaux, faute de quoi le nuage serait aligné verticalement et la question d'une tendance n'aurait aucun sens. Le quotient est construit pour être sans unité : au numérateur comme au dénominateur, on multiplie par ac quand on change d'unité, et tout se simplifie.

Propriété

Encadrement. Pour toute série statistique double dont les deux écarts-types sont non nuls,

1rxy1.

Démonstration. Considérons la fonction f définie sur R par

f(t)=1ni=1n(t(xixˉ)+(yiyˉ))2.

C'est une moyenne de carrés, donc f(t)0 pour tout réel t. Développons chaque carré :

f(t)=1ni=1n(t2(xixˉ)2+2t(xixˉ)(yiyˉ)+(yiyˉ)2)=t2×1ni=1n(xixˉ)2  +  2t×1ni=1n(xixˉ)(yiyˉ)  +  1ni=1n(yiyˉ)2=sx2t2+2sxyt+sy2.

Comme sx2>0, la fonction f est un trinôme du second degré en t, de coefficient dominant strictement positif, et qui reste positif ou nul sur R tout entier. Un tel trinôme ne peut pas avoir deux racines distinctes, donc son discriminant est négatif ou nul :

Δ=(2sxy)24sx2sy2=4(sxy2sx2sy2)0,

c'est-à-dire sxy2sx2sy2. En prenant la racine carrée des deux membres, qui sont positifs, il vient sxysxsy, puis, en divisant par le réel strictement positif sxsy,

rxy=sxysxsy1,

ce qui est exactement l'encadrement annoncé.

Propriété

Cas d'égalité. On a rxy=1 si, et seulement si, les n points du nuage sont alignés sur une droite non verticale. Cette droite passe alors par le point moyen G, et sa pente a le signe de rxy.

Démonstration. Sens direct. Supposons rxy=1, c'est-à-dire sxy2=sx2sy2. Le discriminant du trinôme f ci-dessus est alors nul, donc f admet une racine double

t0=2sxy2sx2=sxysx2,etf(t0)=0.

Or f(t0) est une somme de n carrés divisée par n : une somme de réels positifs est nulle si, et seulement si, chacun de ses termes l'est. Donc, pour tout indice i,

t0(xixˉ)+(yiyˉ)=0,c’est-aˋ-direyi=yˉt0(xixˉ)=yˉ+sxysx2(xixˉ).

Tous les points Mi appartiennent donc à la droite d'équation y=yˉ+sxysx2(xxˉ), qui passe visiblement par G(xˉ,yˉ) et dont la pente sxysx2 a le signe de sxy, donc celui de rxy.

Réciproque. Supposons les points alignés sur une droite non verticale, d'équation y=αx+β avec α0 (si α=0 tous les yi sont égaux et sy=0, cas exclu par la définition de rxy). Alors yi=αxi+β pour tout i, donc, d'après la propriété de changement d'unité vue plus haut, appliquée avec a=1, b=0, c=α et d=β,

sxy=αsx2etsy=αsx.

Il vient alors

rxy=αsx2sx×αsx=αα=±1.

Propriété

Invariance par changement d'unité. Avec les notations du changement d'unité ci-dessus, si a0 et c0, alors

rxy=acacrxy,

c'est-à-dire rxy=rxy si ac>0, et rxy=rxy si ac<0.

Démonstration. Il suffit de reporter les trois formules du changement d'unité dans la définition :

rxy=sxysxsy=acsxyasx×csy=acac×sxysxsy=acacrxy.

Le coefficient de corrélation est donc insensible aux unités et aux origines choisies : c'est ce qui en fait un indicateur comparable d'une étude à l'autre, là où la covariance ne l'est pas.

Quatre nuages et leurs coefficients de corrélation

Propriété

Interprétation pratique. Le coefficient rxy mesure l'intensité de la liaison linéaire entre les deux séries, et rien d'autre.

  • rxy proche de 1 : forte liaison linéaire croissante, le nuage est resserré autour d'une droite de pente positive.
  • rxy proche de 1 : forte liaison linéaire décroissante.
  • rxy proche de 0 : pas de liaison linéaire décelable. Cela n'exclut nullement une liaison d'une autre nature.

En économie, on considère usuellement qu'un ajustement affine mérite d'être tenté lorsque rxy0,9, sans que ce seuil ait la moindre valeur théorique : c'est une convention d'usage, pas un théorème.

La figure ci-dessus rassemble quatre nuages à lire ensemble. Le premier, de coefficient r0,97, montre des points presque alignés sur une droite croissante : l'ajustement affine y sera excellent. Le deuxième, de coefficient r0,55, montre une tendance croissante réelle mais noyée dans la dispersion : la droite existe, elle résume mal. Le quatrième, de coefficient r0,92, est le symétrique du premier pour une liaison décroissante.

Le troisième panneau est le plus instructif, et il faut le regarder longuement. Son coefficient vaut r=0, et pourtant ses points sont exactement sur une parabole : la connaissance de x y détermine complètement y. La liaison est donc totale, mais elle n'est pas linéaire, et les contributions positives et négatives à la covariance se compensent. Retenez la formulation exacte : un coefficient de corrélation nul signifie « pas de liaison linéaire », jamais « pas de liaison ». C'est la raison pour laquelle on trace toujours le nuage avant de calculer quoi que ce soit.

Propriété

Corrélation n'est pas causalité. Une forte corrélation entre deux séries n'autorise à conclure ni que x agit sur y, ni que y agit sur x.

Trois explications concurrentes doivent toujours être envisagées devant une corrélation forte.

La première est la variable cachée, qui agit sur les deux séries à la fois. Le nombre de pompiers dépêchés sur un sinistre et le montant des dégâts constatés sont fortement corrélés positivement, ce qui ne signifie évidemment pas que les pompiers causent les dégâts : la variable cachée est l'ampleur de l'incendie, qui commande à la fois l'un et l'autre.

La deuxième est la causalité inversée. Une corrélation positive entre l'effectif commercial d'une entreprise et son chiffre d'affaires peut aussi bien s'expliquer par le fait que les entreprises qui vendent beaucoup ont les moyens d'embaucher que par l'effet des embauches sur les ventes.

La troisième est la coïncidence, d'autant plus fréquente que n est petit. Sur cinq observations, il n'est pas rare d'obtenir un coefficient supérieur à 0,8 entre deux séries sans aucun rapport.

En économie, cette prudence est la règle. La loi d'Okun, par exemple, décrit une relation négative observée entre la croissance du produit intérieur brut et la variation du taux de chômage : quand la croissance accélère, le chômage a tendance à reculer. C'est une régularité empirique robuste, ajustée par une droite dans tous les manuels, mais l'ajustement à lui seul ne démontre aucun mécanisme économique : c'est la théorie qui l'interprète, pas le calcul.

Exemple

Corrélation de l'exemple filé. On a déjà obtenu sxy=1,8 et sx2=sy2=2, donc sx=sy=2 et sxsy=2×2=2. D'où

rxy=1,82=0,9.

Le coefficient est proche de 1 : la liaison linéaire croissante est forte, et un ajustement affine est légitime. Notons que rxy=0,9 n'est pas égal à 1 : les cinq points ne sont donc pas alignés, ce que la figure confirme.

Ajustement affine par la méthode des moindres carrés

Une fois admis que le nuage suit une tendance rectiligne, il faut choisir une droite parmi toutes celles qui traversent le nuage. Le critère retenu est celui des moindres carrés.

Définition

Soit D la droite d'équation y=ax+b. Pour chaque individu i, on appelle résidu l'écart vertical

ei=yi(axi+b)

entre la valeur observée yi et la valeur axi+b prédite par la droite. La somme des carrés des résidus est

S(a,b)=i=1n(yiaxib)2.

La droite de régression de y en x, ou droite des moindres carrés, est la droite qui rend S(a,b) minimale.

Deux précisions sur ce choix, qui n'a rien d'arbitraire. On mesure les écarts verticalement, et non perpendiculairement à la droite, parce que le but est de prédire y connaissant x : c'est l'erreur de prédiction sur y que l'on veut rendre petite. Et on les élève au carré, plutôt que de prendre leur valeur absolue, pour deux raisons : les carrés empêchent une erreur positive de compenser une erreur négative, et surtout ils conduisent à un problème de minimisation que l'on sait résoudre exactement, avec des trinômes du second degré.

Propriété

Théorème des moindres carrés. On suppose sx20. La fonction S admet un minimum, atteint en un unique couple (a,b), donné par

a=sxysx2etb=yˉaxˉ.

La droite de régression de y en x a donc pour équation

y=sxysx2x+(yˉsxysx2xˉ).

De plus, la valeur minimale de S vaut nsy2(1rxy2).

Démonstration. La fonction S dépend de deux variables. La méthode consiste à fixer l'une des deux et à minimiser en l'autre, ce qui ramène le problème à deux minimisations de trinômes du second degré, faisables séparément.

Première étape : on fixe a et l'on minimise en b. Posons, pour chaque indice i, ui=yiaxi. La moyenne de cette série vaut uˉ=yˉaxˉ, par linéarité de la moyenne. On a alors

S(a,b)=i=1n(uib)2=i=1nui22bi=1nui+nb2=nb22nuˉb+i=1nui2.

À a fixé, c'est un trinôme du second degré en b, de coefficient dominant n>0 : il admet donc un minimum, atteint en

b=2nuˉ2n=uˉ=yˉaxˉ.

La valeur de ce minimum se calcule directement :

S(a,uˉ)=i=1n(uiuˉ)2=n×1ni=1n(uiuˉ)2=nsu2,

su2 désigne la variance empirique de la série (ui). Notons φ(a)=nsu2 cette valeur, qui ne dépend plus que de a.

Deuxième étape : on exprime φ(a). Comme uiuˉ=(yiaxi)(yˉaxˉ)=(yiyˉ)a(xixˉ), on obtient en développant le carré

su2=1ni=1n((yiyˉ)a(xixˉ))2=1ni=1n(yiyˉ)22a×1ni=1n(xixˉ)(yiyˉ)+a2×1ni=1n(xixˉ)2=sy22asxy+a2sx2.

Ainsi φ(a)=n(sx2a22sxya+sy2).

Troisième étape : on minimise φ. C'est encore un trinôme du second degré, en a cette fois, de coefficient dominant nsx2>0 puisque sx20. Il admet donc un minimum, atteint en

a=2nsxy2nsx2=sxysx2.

Conclusion. Notons a=sxysx2 et b=yˉaxˉ. Pour tout couple (a,b) de réels, la première étape donne S(a,b)φ(a), et la troisième donne φ(a)φ(a)=S(a,b). Donc

S(a,b)S(a,b)pour tout (a,b)R2,

ce qui prouve que le minimum est bien atteint en (a,b). L'unicité vient de ce que chacun des deux trinômes atteint son minimum en un unique point.

Valeur du minimum. En remplaçant a par a dans l'expression de φ :

φ(a)=n(sx2×sxy2sx42sxy2sx2+sy2)=n(sy2sxy2sx2)=nsy2(1sxy2sx2sy2)=nsy2(1rxy2).

Propriété

La droite de régression passe par le point moyen. Le point G(xˉ,yˉ) appartient à la droite de régression de y en x.

Démonstration. L'ordonnée du point de la droite d'abscisse xˉ vaut axˉ+b. Or b=yˉaxˉ par le théorème, donc cette ordonnée vaut axˉ+yˉaxˉ=yˉ. Le point de coordonnées (xˉ,yˉ), c'est-à-dire G, est donc bien sur la droite.

C'est le contrôle le plus rapide d'un calcul d'ajustement : si l'on remplace x par xˉ dans l'équation trouvée et que l'on n'obtient pas yˉ, il y a une erreur, et elle est en général dans b.

Propriété

Interprétation de rxy2. La somme minimale des carrés des résidus vaut nsy2(1rxy2). Elle est donc nulle si et seulement si rxy=1, et d'autant plus petite que rxy2 est proche de 1. Le nombre rxy2 s'interprète comme la part de la dispersion de y que l'ajustement restitue.

Ce résultat éclaire d'un coup les deux paragraphes précédents. Le coefficient de corrélation ne mesure pas seulement une impression visuelle : son carré quantifie exactement la qualité du meilleur ajustement affine possible. Avec rxy=0,9, on a rxy2=0,81 : l'ajustement restitue 81 % de la dispersion de y, et il en laisse 19 % dans les résidus.

Propriété

L'autre droite de régression. En échangeant les rôles des deux variables, c'est-à-dire en minimisant i=1n(xiayib)2, on obtient la droite de régression de x en y, d'équation x=ay+b avec

a=sxysy2etb=xˉayˉ.

Les deux droites de régression passent toutes deux par le point moyen G, mais elles sont distinctes en général. Leurs pentes vérifient

a×a=rxy2,

et elles sont confondues si, et seulement si, rxy=1.

Démonstration. La formule donnant a et b s'obtient en appliquant le théorème des moindres carrés à la série double (yi,xi), c'est-à-dire en échangeant partout les rôles de x et de y, la covariance étant symétrique. Pour le produit des pentes,

a×a=sxysx2×sxysy2=sxy2sx2sy2=(sxysxsy)2=rxy2.

Enfin, la seconde droite s'écrit y=1axba lorsque a0, et sa pente vue dans le repère habituel est 1a. Les deux droites, qui ont déjà un point commun G, sont confondues si et seulement si elles ont la même pente, c'est-à-dire a=1a, soit aa=1, soit rxy2=1.

Reste le cas écarté a=0, c'est-à-dire sxy=0 : la seconde droite est alors la verticale x=xˉ et la première l'horizontale y=yˉ. Elles sont distinctes, et rxy=0 donc rxy1 : l'équivalence est encore vérifiée.

Il n'y a là aucun paradoxe : les deux droites répondent à deux questions différentes. La première minimise les écarts verticaux parce qu'elle sert à prédire y ; la seconde minimise les écarts horizontaux parce qu'elle sert à prédire x. Vues dans le repère habituel, leurs pentes valent a et 1a, et, lorsque rxy0, leur quotient vaut 1aa=1rxy21 : la droite de régression de x en y est donc toujours plus redressée vers la verticale que celle de y en x, et l'écart entre les deux est d'autant plus visible que l'ajustement est mauvais. En pratique, on n'utilise que la droite de régression de la variable à expliquer en la variable explicative, et l'énoncé précise toujours laquelle est laquelle.

Exemple

Ajustement de l'exemple filé. Les cinq quantités nécessaires sont déjà calculées : xˉ=3, yˉ=4, sx2=2, sy2=2 et sxy=1,8.

Coefficients.

a=sxysx2=1,82=0,9,b=yˉaxˉ=40,9×3=42,7=1,3.

La droite de régression du chiffre d'affaires en la dépense publicitaire a donc pour équation

y=0,9x+1,3.

Contrôle par le point moyen. Pour x=3, on trouve 0,9×3+1,3=2,7+1,3=4=yˉ. Le point G(3,4) est bien sur la droite.

Résidus. Les valeurs ajustées y^i=0,9xi+1,3 valent successivement 2,2 ; 3,1 ; 4 ; 4,9 ; 5,8, d'où les résidus

e1=0,2,e2=0,1,e3=1,e4=0,9,e5=0,2.

Leur somme est nulle, ce qui est une propriété générale de la droite des moindres carrés et un bon contrôle de calcul. Leur somme des carrés vaut

0,04+0,01+1+0,81+0,04=1,9,

ce que la formule du théorème confirme : nsy2(1rxy2)=5×2×(10,81)=10×0,19=1,9.

Interprétation. La pente a=0,9 signifie qu'à chaque millier d'euros supplémentaire investi en publicité correspond, en moyenne sur la période, un chiffre d'affaires supérieur de 0,9 millier d'euros. Une prévision pour une dépense de 6 milliers d'euros donnerait

y^=0,9×6+1,3=6,7 milliers d’euros,

prévision à prendre avec prudence : x=6 est en dehors de l'intervalle des dépenses observées, qui s'arrête à 5.

L'autre droite. La droite de régression de x en y a pour coefficients

a=sxysy2=1,82=0,9,b=xˉayˉ=30,9×4=0,6,

soit x=0,9y0,6. Réécrite en y, elle devient y=x+0,60,9=10x+69, de pente 1091,11. Les deux droites sont bien distinctes, et leur produit de pentes vaut 0,9×0,9=0,81=rxy2. Elles se coupent en G : pour x=3, la seconde donne y=369=4.

Pertinence d'un ajustement et pré-transformations

Le calcul des moindres carrés produit toujours une droite, même quand le nuage n'en réclame aucune : les formules ne protègent de rien. La question de la pertinence se pose donc avant, et elle se tranche en regardant le nuage.

Propriété

Avant d'ajuster, on discute. Trois vérifications précèdent tout calcul de régression.

  1. L'allure du nuage. Les points suivent-ils une tendance rectiligne, ou une courbe nettement incurvée ? Un nuage en forme d'arc, de cloche ou de « J » ne s'ajuste pas par une droite.
  2. Les points aberrants. Une seule observation très éloignée des autres peut à elle seule fabriquer une corrélation forte, ou au contraire en détruire une. On la repère à l'oeil et l'on s'interroge sur son origine.
  3. La valeur de rxy. Elle ne vient qu'en dernier, et elle ne dispense jamais du tracé : le troisième panneau de la figure des quatre nuages montre un lien parfait avec r=0, et un nuage nettement courbé peut donner un rxy élevé.

Une dernière mise en garde concerne l'usage de la droite obtenue. Interpoler, c'est-à-dire prédire y pour une valeur de x située à l'intérieur de la plage observée, est raisonnable. Extrapoler loin de cette plage ne l'est pas : rien ne garantit que la tendance se prolonge, et l'exemple filé n'autorise aucune prédiction pour une dépense publicitaire de 50 milliers d'euros.

Lorsque le nuage est visiblement courbé, tout n'est pas perdu. Souvent, une transformation bien choisie des données redresse le nuage, et il suffit alors d'appliquer la méthode des moindres carrés aux données transformées.

Propriété

Ajustement exponentiel. Le modèle y=Aebx, avec A>0, équivaut, en posant z=lny (ce qui suppose y>0), au modèle affine

z=bx+lnA.

Le nuage des points (xi,zi) est donc quasi rectiligne si et seulement si le nuage initial suit une croissance de type exponentiel.

Démonstration. Comme A>0 et que l'exponentielle est strictement positive, y=Aebx entraîne y>0, et l'on peut prendre le logarithme des deux membres. La relation fonctionnelle ln(uv)=lnu+lnv et ln(et)=t donnent

lny=lnA+ln(ebx)=bx+lnA.

Réciproquement, si z=bx+lnA avec z=lny, alors en composant par l'exponentielle, qui est strictement croissante sur R, on retrouve y=ebx+lnA=Aebx.

Propriété

Ajustement puissance. Le modèle y=Axb, avec A>0 et x>0, équivaut, en posant u=lnx et z=lny, au modèle affine

z=bu+lnA.

Démonstration. Pour x>0, on a par définition xb=eblnx, donc y=Aeblnx. En prenant le logarithme comme ci-dessus, lny=blnx+lnA, c'est-à-dire z=bu+lnA. La réciproque s'obtient en composant par l'exponentielle.

Dans les deux cas, la démarche est la même : on transforme, on ajuste dans le monde transformé, puis on revient au modèle initial en appliquant l'exponentielle. Le point délicat est le retour : le coefficient directeur de la droite ajustée donne directement b, mais l'ordonnée à l'origine donne lnA, et il faut encore l'exponentier pour obtenir A.

Méthode

Conduire une pré-transformation. Le protocole ne varie pas.

  1. Choisir la transformation au vu du nuage : croissance de plus en plus rapide et y>0, on essaie z=lny ; croissance qui s'infléchit avec x>0 et y>0, on essaie u=lnx, éventuellement les deux.
  2. Construire le tableau transformé en ajoutant une ligne. Les valeurs des logarithmes sont fournies par l'énoncé, arrondies : on les recopie sans chercher à les recalculer.
  3. Vérifier que le nuage transformé est rectiligne, à l'oeil ou par le coefficient de corrélation des données transformées.
  4. Appliquer les moindres carrés aux données transformées, exactement comme pour un ajustement affine ordinaire.
  5. Revenir au modèle initial. Dans les deux cas, la droite ajustée s'écrit z=αt+βt désigne x pour l'exponentiel et u=lnx pour la puissance. La pente donne directement l'exposant, b=α, et l'ordonnée à l'origine donne lnA=β, donc A=eβ. Ne pas oublier cette dernière exponentielle est l'erreur classique.
  6. Interpréter dans les bonnes unités, et rappeler que le modèle est ajusté sur les données transformées, donc que les résidus qu'il minimise sont ceux de z, pas ceux de y.

Exemple

Ajustement exponentiel d'un chiffre d'affaires. Une jeune entreprise relève son chiffre d'affaires annuel y, en millions d'euros, en fonction du rang de l'année t. L'énoncé fournit les logarithmes zi=ln(yi), arrondis au centième.

Rang ti 0 1 2 3 4
yi 2,0 2,9 4,8 6,4 10,2
zi=lnyi 0,69 1,06 1,57 1,86 2,32

Le nuage des (ti,yi) est nettement incurvé vers le haut : les accroissements annuels valent 0,9 ; 1,9 ; 1,6 ; 3,8, et le dernier est plus de quatre fois le premier. Un ajustement affine direct serait mal choisi. En revanche, les accroissements de z valent 0,37 ; 0,51 ; 0,29 ; 0,46, ils sont du même ordre : le nuage transformé est bien rectiligne.

Ajustement de z en t. On calcule les moyennes, puis Kœnig-Huygens :

tˉ=0+1+2+3+45=2,zˉ=0,69+1,06+1,57+1,86+2,325=7,505=1,5.i=15ti2=0+1+4+9+16=30,st2=30522=64=2.i=15tizi=0+1,06+3,14+5,58+9,28=19,06,stz=19,0652×1,5=3,8123=0,812.

D'où les coefficients de la droite de régression de z en t :

a=stzst2=0,8122=0,406,b=zˉatˉ=1,50,406×2=1,50,812=0,688,

soit z=0,406t+0,688.

Retour au modèle initial. On a z=lny, donc y=e0,406t+0,688=e0,688×e0,406t. Avec les valeurs fournies e0,6881,99 et e0,4061,50, le modèle s'écrit

y1,99e0,406t1,99×1,50t.

Interprétation. Le chiffre d'affaires est modélisé par une croissance d'environ 50 % par an à partir d'une valeur initiale d'environ 1,99 million d'euros, ce qui est cohérent avec la première observation y0=2,0. Pour t=5, le modèle prédit 1,99×1,50515,1 millions d'euros, prévision qui suppose que le rythme de croissance se maintienne, hypothèse économiquement forte.

Exemple

Reconnaître un modèle puissance. Une étude relie la surface x d'un local, en dizaines de mètres carrés, à son coût d'aménagement y, en milliers d'euros. L'énoncé fournit ui=lnxi et zi=lnyi, arrondis au centième.

xi 1 4 9 16 25
yi 2 16 54 128 250
ui 0 1,39 2,20 2,77 3,22
zi 0,69 2,77 3,99 4,85 5,52

Le nuage des (xi,yi) croît beaucoup plus vite qu'une droite. Regardons celui des (ui,zi) : les pentes entre points consécutifs valent

2,770,691,3901,50,3,992,772,201,391,51,4,853,992,772,201,51,5,524,853,222,771,49.

Elles sont toutes voisines de 1,5 : les points transformés sont alignés, aux arrondis près, sur une droite de pente b=1,5 et d'ordonnée à l'origine lnA=0,69, c'est-à-dire A=e0,692. Le modèle est donc

y2x1,5.

On vérifie sur la dernière observation : 2×251,5=2×25×25=2×25×5=250, ce qui est exactement la valeur relevée. Économiquement, un exposant supérieur à 1 signale un coût qui croît plus que proportionnellement à la surface.

Conduire un ajustement affine : la méthode

Méthode

Les cinq étapes d'un ajustement affine. Elles se déroulent toujours dans cet ordre, et chacune se rédige.

  1. Tracer le nuage et décider si un ajustement affine a un sens. Repérer la variable explicative (en abscisse) et la variable à expliquer (en ordonnée). Si le nuage est courbé, passer par une pré-transformation.
  2. Calculer les moyennes xˉ et yˉ, qui donnent le point moyen G. Contrôler qu'elles tombent bien au milieu des données.
  3. Compléter le tableau avec les trois lignes xi2, yi2 et xiyi, puis en faire les sommes. C'est la seule étape calculatoire, et elle se mène en colonnes, jamais de tête.
  4. Appliquer Kœnig-Huygens trois fois :
sx2=1nxi2xˉ2,sy2=1nyi2yˉ2,sxy=1nxiyixˉyˉ,

puis calculer rxy=sxysxsy et le commenter en une phrase. 5. Calculer a=sxysx2 puis b=yˉaxˉ, écrire l'équation y=ax+b, et contrôler que le point moyen la vérifie.

Trois contrôles finaux, à faire systématiquement. Le signe de a doit être celui de rxy et celui de sxy. La valeur rxy doit être inférieure ou égale à 1 : un « r=1,3 » signale une erreur de calcul, presque toujours dans une variance. Enfin, toute prévision demandée doit être accompagnée d'une phrase de prudence si la valeur sort de la plage observée.

Couples de variables aléatoires discrètes

On change de monde. Les données observées disparaissent, remplacées par un modèle : deux variables aléatoires discrètes X et Y définies sur le même espace probabilisé (Ω,A,P). C'est ce « même espace » qui donne un sens à des écritures comme [X=2][Y=3], et donc à tout ce chapitre : deux variables définies sur deux expériences sans rapport ne forment pas un couple.

Conformément au programme, aucune difficulté ne sera soulevée sur les sommes indexées par des ensembles dénombrables : les interversions de sommations et les regroupements de termes sont admis.

Loi conjointe d'un couple

Définition

Soient X et Y deux variables aléatoires discrètes définies sur le même espace probabilisé, avec X(Ω)={x1,x2,} et Y(Ω)={y1,y2,}.

La loi conjointe du couple (X,Y) est la donnée de X(Ω), de Y(Ω) et, pour tout couple (i,j), du réel

pi,j=P([X=xi][Y=yj]),

que l'on note aussi P(X=xi,Y=yj).

Lorsque X(Ω) et Y(Ω) sont finis, la loi conjointe se présente dans un tableau à double entrée : une ligne par valeur de X, une colonne par valeur de Y, et dans la case (i,j) la probabilité pi,j.

Propriété

Les réels pi,j vérifient

pi,j0pour tout (i,j),etijpi,j=1.

Démonstration. La positivité est immédiate : chaque pi,j est la probabilité d'un événement. Pour la somme, considérons la famille des événements

Ai,j=[X=xi][Y=yj].

Ces événements sont deux à deux incompatibles : si (i,j)(i,j), alors xixi ou yjyj, et une même issue ω ne peut pas donner deux valeurs différentes à X ou deux valeurs différentes à Y. Leur réunion est Ω tout entier : quelle que soit l'issue ω, le réel X(ω) est l'un des xi et le réel Y(ω) est l'un des yj, donc ω appartient à l'un des Ai,j. La famille (Ai,j) est donc un système complet d'événements, et la somme de ses probabilités vaut 1.

Cette égalité est la vérification obligatoire de tout tableau de loi conjointe : la somme de toutes les cases doit valoir 1. Une erreur de calcul se détecte là, avant de propager la faute dans les cinq questions suivantes.

Exemple

Un panel de ménages. Un institut interroge 200 ménages. Pour chacun, il relève le nombre de véhicules X et le nombre d'enfants Y, chacun valant 0, 1 ou 2. Les effectifs relevés sont les suivants : 30, 10, 10 pour la première ligne, 20, 40, 30 pour la deuxième, 10, 20, 30 pour la troisième. On choisit au hasard un ménage du panel, chacun ayant la même probabilité 1200 d'être choisi. En divisant chaque effectif par 200, on obtient la loi conjointe du couple (X,Y) :

X\Y 0 1 2
0 0,15 0,05 0,05
1 0,10 0,20 0,15
2 0,05 0,10 0,15

Vérification : la somme des neuf cases vaut

(0,15+0,05+0,05)+(0,10+0,20+0,15)+(0,05+0,10+0,15)=0,25+0,45+0,30=1.

On lit directement, par exemple, P([X=1][Y=2])=0,15 : 15 % des ménages du panel ont un véhicule et deux enfants.

Lois marginales

Le tableau contient bien plus que le comportement de chaque variable prise isolément, mais il le contient aussi, et l'on récupère celui-ci en sommant.

Définition

Les lois marginales du couple (X,Y) sont les lois de X et de Y prises séparément. On note

pi,=P(X=xi)etp,j=P(Y=yj).

Propriété

Obtention des marginales. Pour tous i et j,

pi,=jpi,jetp,j=ipi,j.

Dans le tableau à double entrée : la loi de X s'obtient en sommant chaque ligne, la loi de Y en sommant chaque colonne.

Démonstration. Traitons la loi de X, l'autre s'obtenant en échangeant les rôles. La famille ([Y=yj])j est un système complet d'événements : deux valeurs distinctes de Y s'excluent, et toute issue donne à Y l'une des valeurs de Y(Ω). La formule des probabilités totales appliquée à l'événement [X=xi] et à ce système complet donne

P(X=xi)=jP([X=xi][Y=yj])=jpi,j.

En pratique, on borde le tableau d'une colonne « total » à droite et d'une ligne « total » en bas : la colonne porte la loi de X, la ligne porte la loi de Y, et la case du coin doit contenir 1. Ces sommes écrites dans la marge du tableau expliquent le mot « marginale ».

Exemple

Marginales du panel. On borde le tableau précédent.

X\Y 0 1 2 Loi de X
0 0,15 0,05 0,05 0,25
1 0,10 0,20 0,15 0,45
2 0,05 0,10 0,15 0,30
Loi de Y 0,30 0,35 0,35 1

On lit la loi de X dans la dernière colonne et celle de Y dans la dernière ligne, et les deux totaux valent 1. Les espérances s'en déduisent :

E(X)=0×0,25+1×0,45+2×0,30=1,05,E(Y)=0×0,30+1×0,35+2×0,35=1,05.

Le panel compte donc en moyenne 1,05 véhicule et 1,05 enfant par ménage.

Vient maintenant le point le plus important du paragraphe, et l'une des idées maîtresses du chapitre.

Propriété

Les lois marginales ne déterminent pas la loi conjointe. Deux couples peuvent avoir exactement les mêmes lois marginales sans avoir la même loi conjointe. Autrement dit, on passe de la loi conjointe aux marginales, mais jamais des marginales à la conjointe.

Démonstration. Il suffit d'exhiber deux couples. Considérons les deux lois conjointes suivantes, pour deux couples (X,Y) et (X,Y) à valeurs dans {0,1}.

X\Y 0 1 Loi de X
0 0,10 0,30 0,40
1 0,20 0,40 0,60
Loi de Y 0,30 0,70 1
X\Y 0 1 Loi de X
0 0,12 0,28 0,40
1 0,18 0,42 0,60
Loi de Y 0,30 0,70 1

Les deux tableaux ont pour somme 1, donc définissent bien deux lois conjointes. Leurs marges sont identiques : X et X suivent la même loi, donnée par 0,40 et 0,60, et Y et Y également, données par 0,30 et 0,70. Pourtant les tableaux diffèrent, par exemple p0,0=0,10 alors que p0,0=0,12.

La morale est à retenir mot pour mot : connaître la loi de X et la loi de Y ne suffit pas à connaître la loi du couple. Il manque exactement l'information sur la façon dont les deux variables sont liées. Le second tableau ci-dessus est d'ailleurs celui de l'unique couple indépendant ayant ces marges, puisque chaque case y est le produit des deux marges correspondantes, par exemple 0,40×0,30=0,12. Le premier ne l'est pas. Conséquence pratique immédiate : une question du type « calculer P([X=1][Y=1]) » n'a aucune réponse tant que l'énoncé ne donne pas la loi conjointe ou une hypothèse d'indépendance.

Lois conditionnelles

Définition

Soit j tel que P(Y=yj)0. La loi conditionnelle de X sachant [Y=yj] est la famille des réels

P[Y=yj](X=xi)=P([X=xi][Y=yj])P(Y=yj)=pi,jp,j,

pour xi décrivant X(Ω). On définit de même la loi conditionnelle de Y sachant [X=xi] lorsque pi,0.

Sur le tableau, la lecture est simple : la loi conditionnelle de X sachant [Y=yj] s'obtient en prenant la colonne numéro j et en divisant chacune de ses cases par son total.

Propriété

Pour tout j tel que p,j0, la loi conditionnelle de X sachant [Y=yj] est bien une loi de probabilité : ses termes sont positifs et leur somme vaut 1.

Démonstration. Chaque terme est un quotient de deux réels positifs, donc il est positif. Pour la somme,

ipi,jp,j=1p,jipi,j=p,jp,j=1,

en utilisant la formule des marginales établie plus haut.

Propriété

Reconstruction de la loi conjointe. Pour tous i et j tels que p,j0,

pi,j=P(Y=yj)×P[Y=yj](X=xi).

Démonstration. C'est la formule des probabilités composées, ou simplement la définition d'une probabilité conditionnelle multipliée par P(Y=yj).

Cette égalité est la clé des énoncés qui se déroulent en deux temps, et ils sont très nombreux : un premier tirage détermine un paramètre, un second se déroule sachant ce paramètre. L'énoncé donne alors la loi de la première variable et les lois conditionnelles de la seconde, et c'est à vous de reconstituer la loi conjointe.

Méthode

Construire une loi conjointe donnée en deux temps.

  1. Identifier la variable « meneuse », celle dont la loi est donnée sans condition, souvent le résultat de la première étape.
  2. Écrire les lois conditionnelles fournies par l'énoncé, en précisant pour quelles valeurs elles ont un sens. Une phrase du type « sachant que [N=n], la variable Y suit la loi B(n,p) » se traduit par P[N=n](Y=k)=(nk)pk(1p)nk.
  3. Multiplier : P([N=n][Y=k])=P(N=n)×P[N=n](Y=k).
  4. Remplir le tableau en faisant attention aux cases impossibles, qui valent 0 (par exemple k>n).
  5. Contrôler que la somme de toutes les cases vaut 1, puis sommer les colonnes pour obtenir la loi marginale cherchée.

Exemple

Une boutique et ses clients. Le nombre N de clients entrant dans une boutique pendant une heure suit la loi uniforme sur [ ⁣[1,3] ⁣]. Chaque client achète, indépendamment des autres, avec la probabilité 12. On note Y le nombre d'acheteurs.

Sachant [N=n], la variable Y compte les succès de n épreuves indépendantes de probabilité 12, donc P[N=n](Y=k)=(nk)(12)n pour k[ ⁣[0,n] ⁣]. Comme P(N=n)=13 pour n[ ⁣[1,3] ⁣], la formule de reconstruction donne le tableau suivant.

N\Y 0 1 2 3
1 16 16 0 0
2 112 16 112 0
3 124 18 18 124

Détaillons deux cases. Pour n=2 et k=1 : 13×(21)(12)2=13×24=16. Pour n=3 et k=2 : 13×(32)(12)3=13×38=18. Les cases telles que k>n sont nulles : on ne peut pas avoir plus d'acheteurs que de clients.

La somme de chaque ligne vaut 13, et le total vaut 1. En sommant les colonnes, on obtient la loi marginale de Y :

P(Y=0)=16+112+124=4+2+124=724,P(Y=1)=16+16+18=4+4+324=1124,P(Y=2)=112+18=2+324=524,P(Y=3)=124.

Ces quatre nombres ont bien pour somme 7+11+5+124=1, et

E(Y)=0×724+1×1124+2×524+3×124=11+10+324=1.

Réciproquement, on peut lire une loi conditionnelle « dans l'autre sens » : sachant [Y=3], seule la ligne n=3 est possible, donc P[Y=3](N=3)=1. Trois acheteurs imposent trois clients.

Loi d'une variable Z=g(X,Y)

Définition

Soient (X,Y) un couple de variables aléatoires discrètes et g une fonction de deux variables réelles. On note Z=g(X,Y) la variable aléatoire qui, à l'issue ω, associe le réel g(X(ω),Y(ω)).

Les deux cas au programme sont Z=X+Y et Z=XY, mais la méthode est la même pour min(X,Y), max(X,Y), XY ou n'importe quelle autre expression.

Méthode

Déterminer la loi de Z=g(X,Y).

  1. Déterminer Z(Ω) : parcourir tous les couples (xi,yj) possibles, calculer g(xi,yj), et retenir l'ensemble des valeurs obtenues. Ne pas oublier de retirer les couples de probabilité nulle.
  2. Regrouper. Pour chaque valeur z de Z(Ω), repérer tous les couples (xi,yj) tels que g(xi,yj)=z. Sur un tableau, ils forment un paquet de cases : les diagonales pour la somme, les hyperboles pour le produit.
  3. Additionner les probabilités de ces cases :
P(Z=z)=(i,j)  :  g(xi,yj)=zpi,j,

ce qui est licite car les événements réunis sont deux à deux incompatibles. 4. Contrôler que la somme des P(Z=z) vaut 1.

Exemple

Somme sur le panel de ménages. Reprenons le tableau du panel de ménages et posons S=X+Y, le nombre total de véhicules et d'enfants d'un ménage. Les valeurs possibles sont 0, 1, 2, 3 et 4. On regroupe par diagonales :

P(S=0)=p0,0=0,15,P(S=1)=p0,1+p1,0=0,05+0,10=0,15,P(S=2)=p0,2+p1,1+p2,0=0,05+0,20+0,05=0,30,P(S=3)=p1,2+p2,1=0,15+0,10=0,25,P(S=4)=p2,2=0,15.

Contrôle : 0,15+0,15+0,30+0,25+0,15=1. L'espérance vaut

E(S)=0×0,15+1×0,15+2×0,30+3×0,25+4×0,15=0,15+0,60+0,75+0,60=2,10,

et l'on remarque que 2,10=1,05+1,05=E(X)+E(Y). Le paragraphe suivant montre que ce n'est pas une coïncidence.

Exemple

L'exemple filé de la partie 2 : deux tirages sans remise. Une urne contient trois jetons numérotés 1, 2 et 3. On en tire deux, successivement et sans remise. On note X le numéro du premier jeton et Y celui du second.

L'univers naturel est l'ensemble des couples ordonnés de jetons distincts, il compte 3×2=6 éléments équiprobables. Donc pi,j=16 si ij, et pi,i=0 puisqu'un même jeton ne peut pas sortir deux fois.

X\Y 1 2 3 Loi de X
1 0 16 16 13
2 16 0 16 13
3 16 16 0 13
Loi de Y 13 13 13 1

Les deux marginales sont uniformes sur {1,2,3}, donc

E(X)=E(Y)=1+2+33=2,E(X2)=1+4+93=143,V(X)=V(Y)=1434=23.

Loi de S=X+Y. Les valeurs possibles sont 3, 4 et 5, obtenues chacune par deux cases de probabilité 16 :

P(S=3)=P(S=4)=P(S=5)=16+16=13.

La somme suit donc la loi uniforme sur {3,4,5}, d'où E(S)=4 et E(S2)=9+16+253=503, puis V(S)=50316=23.

Loi de P=XY. Les produits possibles sont 1×2=2, 1×3=3 et 2×3=6, chacun obtenu par deux cases :

P(P=2)=P(P=3)=P(P=6)=13,d’ouˋE(XY)=2+3+63=113.

Notons dès maintenant que E(XY)=113 alors que E(X)E(Y)=4 : ces deux nombres sont différents, ce qui sera interprété par la covariance.

Théorème de transfert et linéarité de l'espérance

Propriété

Théorème de transfert pour un couple (admis). Soient (X,Y) un couple de variables aléatoires discrètes et g une fonction de deux variables. Sous réserve de convergence absolue, la variable g(X,Y) admet une espérance et

E(g(X,Y))=ijg(xi,yj)P([X=xi][Y=yj]).

L'intérêt est le même qu'à une variable : on calcule l'espérance de g(X,Y) sans déterminer la loi de g(X,Y). En particulier, pour le produit,

E(XY)=ijxiyjpi,j.

Comme tout le programme, ce théorème est admis, et les questions de convergence ne seront jamais soulevées : dans les exercices, toutes les espérances rencontrées existent.

Propriété

Linéarité de l'espérance. Soient X et Y deux variables aléatoires discrètes admettant une espérance, et a, b deux réels. Alors aX+bY admet une espérance et

E(aX+bY)=aE(X)+bE(Y).

Aucune hypothèse d'indépendance n'est requise.

Démonstration. Appliquons le théorème de transfert à la fonction g(x,y)=ax+by :

E(aX+bY)=ij(axi+byj)pi,j=aijxipi,j  +  bijyjpi,j=aixi(jpi,j)  +  bjyj(ipi,j)=aixipi,  +  bjyjp,j=aE(X)+bE(Y).

On a séparé la somme en deux, puis, dans chaque morceau, factorisé par le terme qui ne dépend pas de l'indice de sommation intérieur, et enfin reconnu les lois marginales. Les interversions et regroupements sont licites, comme le programme l'admet.

Cette propriété est la plus utilisée de tout le chapitre, et sa force tient entièrement à l'absence d'hypothèse. Deux variables peuvent être liées de la façon la plus tordue, leurs espérances s'ajoutent quand même. L'exemple du panel l'illustrait déjà : les variables X et Y y sont clairement dépendantes, et pourtant E(X+Y)=E(X)+E(Y).

Exemple

Vérification sur l'exemple filé. Avec les deux tirages sans remise, E(X)=E(Y)=2, donc la linéarité annonce E(X+Y)=4. Or on a calculé directement E(S)=4 au paragraphe précédent, en passant par la loi de S. Les deux méthodes concordent, mais la première tient en une ligne.

En revanche, le produit ne se comporte pas ainsi : on a trouvé E(XY)=1133,67 alors que E(X)E(Y)=4. Il n'existe aucune « linéarité du produit », et l'égalité E(XY)=E(X)E(Y) demandera une hypothèse supplémentaire.

Indépendance de deux variables aléatoires

Définition

Deux variables aléatoires discrètes X et Y, définies sur le même espace probabilisé, sont indépendantes lorsque, pour tout couple (x,y)X(Ω)×Y(Ω),

P([X=x][Y=y])=P(X=x)×P(Y=y).

Avec les notations du tableau : pi,j=pi,×p,j pour tous i et j.

Autrement dit, X et Y sont indépendantes exactement lorsque la loi conjointe se reconstruit à partir des deux marginales. C'est le seul cas où l'information des marges suffit, et cela éclaire rétrospectivement le contre-exemple des deux tableaux de mêmes marges : les deux tableaux y avaient les mêmes marges, mais un seul était le tableau des produits.

Propriété

Caractérisation par les lignes du tableau. X et Y sont indépendantes si, et seulement si, toutes les lignes du tableau de la loi conjointe sont proportionnelles entre elles, c'est-à-dire s'il existe des réels λi et cj tels que pi,j=λicj pour tous i et j.

Démonstration. Sens direct. Si X et Y sont indépendantes, alors pi,j=pi,p,j, ce qui est la forme voulue avec λi=pi, et cj=p,j : la ligne numéro i est la liste des p,j multipliée par le coefficient pi,.

Réciproque. Supposons pi,j=λicj pour tous i et j. Posons Λ=iλi et C=jcj. En sommant sur j puis sur i :

pi,=jλicj=λiC,p,j=iλicj=Λcj,1=ijλicj=ΛC.

Par conséquent

pi,×p,j=λiC×Λcj=λicj×(ΛC)=λicj=pi,j,

ce qui est la définition de l'indépendance.

Ce critère est un accélérateur de lecture : sur un tableau numérique, deux lignes visiblement non proportionnelles suffisent à conclure à la dépendance, sans calculer la moindre marge.

Méthode

Prouver ou réfuter l'indépendance de deux variables.

Pour réfuter, ce qui est le cas le plus fréquent : il suffit d'un seul couple (x,y) pour lequel P([X=x][Y=y])P(X=x)P(Y=y). On choisit le plus simple à calculer, très souvent une case nulle du tableau dont les deux marges ne le sont pas. On rédige : « or P([X=1][Y=1])=0 alors que P(X=1)P(Y=1)=190, donc X et Y ne sont pas indépendantes ».

Pour prouver l'indépendance, il faut au contraire vérifier l'égalité pour tous les couples, sans exception. Deux voies : soit le tableau est petit et l'on vérifie les cases une à une, soit l'énoncé la donne comme hypothèse de modélisation (« les lancers sont indépendants », « les deux ateliers fonctionnent indépendamment »), et l'on s'appuie dessus en le disant.

Interdit : conclure à l'indépendance parce que « les deux variables n'ont rien à voir ». Ce n'est pas un argument mathématique, et cela ne vaut aucun point.

Exemple

a. Les deux tirages sans remise ne sont pas indépendants. Sur le tableau des deux tirages sans remise, on lit P([X=1][Y=1])=0, alors que

P(X=1)×P(Y=1)=13×13=190.

Un seul couple suffit : X et Y ne sont pas indépendantes. C'était prévisible, le premier tirage retirant un jeton de l'urne.

b. Le panel de ménages non plus. On a P([X=0][Y=0])=0,15, alors que P(X=0)P(Y=0)=0,25×0,30=0,075. Les deux nombres diffèrent, donc le nombre de véhicules et le nombre d'enfants ne sont pas indépendants dans ce panel.

c. Un cas d'indépendance. On lance deux dés équilibrés et l'on note X et Y les résultats. Pour tout (i,j)[ ⁣[1,6] ⁣]2, l'équiprobabilité sur les 36 couples donne

P([X=i][Y=j])=136=16×16=P(X=i)P(Y=j).

L'égalité vaut pour les 36 couples, donc X et Y sont indépendantes.

Propriété

Espérance du produit (admis). Si X et Y sont indépendantes et admettent chacune une espérance, alors XY admet une espérance et

E(XY)=E(X)E(Y).

Le programme admet ce résultat. Il n'est pourtant pas mystérieux : le théorème de transfert donne E(XY)=ijxiyjpi,j, et sous l'hypothèse d'indépendance pi,j=pi,p,j, ce qui permet de factoriser la somme double en un produit de deux sommes simples,

ijxiyjpi,p,j=(ixipi,)(jyjp,j)=E(X)E(Y).

La seule chose réellement admise est donc la licéité de ces manipulations dans le cas infini.

Attention à la réciproque, qui est fausse. L'égalité E(XY)=E(X)E(Y) peut se produire sans indépendance, et le contre-exemple est donné plus loin, avec la covariance.

Propriété

Fonctions de variables indépendantes (admis). Si X et Y sont indépendantes, alors pour toutes fonctions g et h, les variables g(X) et h(Y) sont encore indépendantes.

C'est un cas particulier du lemme des coalitions, énoncé dans la partie 3. On l'utilise sans cesse et sans y penser : si X et Y sont indépendantes, alors X2 et eY le sont, 2X+1 et Y aussi, et par conséquent, par exemple, E(X2Y2)=E(X2)E(Y2).

Loi du minimum et du maximum

Le minimum et le maximum de deux variables se traitent par une technique spécifique : on ne cherche pas directement P(min=k), on passe par des événements de la forme [X>k] et [Xk], qui se traduisent immédiatement en intersections.

Propriété

Les deux traductions fondamentales. Pour toutes variables aléatoires X et Y et tout réel k :

[min(X,Y)>k]=[X>k][Y>k],[max(X,Y)k]=[Xk][Yk].

Démonstration. Soit ω une issue. Dire que min(X(ω),Y(ω))>k, c'est dire que le plus petit des deux nombres dépasse k, donc que les deux le dépassent : c'est exactement X(ω)>k et Y(ω)>k. Réciproquement, si les deux dépassent k, leur minimum aussi. Les deux événements ont donc les mêmes issues. Le raisonnement pour le maximum est identique : le plus grand des deux est inférieur ou égal à k si, et seulement si, les deux le sont.

Ces deux égalités ne demandent aucune hypothèse. C'est ensuite, pour transformer la probabilité de l'intersection en produit, que l'indépendance intervient.

Méthode

Déterminer la loi de min(X,Y) ou de max(X,Y), pour X et Y indépendantes à valeurs entières.

  1. Choisir le bon événement : pour le minimum, on travaille avec [>k] ; pour le maximum, avec [k]. C'est le seul choix qui fait apparaître une intersection.
  2. Traduire grâce aux deux égalités ci-dessus, puis utiliser l'indépendance pour transformer la probabilité de l'intersection en produit.
  3. Calculer P(X>k) ou P(Xk) pour chacune des deux variables, à partir de leur loi.
  4. Revenir à la loi par différence d'événements emboîtés :
P(M=k)=P(M>k1)P(M>k)pour le minimum,P(M=k)=P(Mk)P(Mk1)pour le maximum.
  1. Contrôler que les probabilités obtenues sont positives et de somme 1, ou reconnaître une loi usuelle.

L'étape 4 mérite une justification, faite une fois pour toutes. Si M est à valeurs entières, l'événement [M>k1] est la réunion des deux événements incompatibles [M=k] et [M>k], d'où P(M>k1)=P(M=k)+P(M>k) et la formule annoncée. De même [Mk] est la réunion de [Mk1] et de [M=k].

Exemple

Le minimum de deux lois géométriques. Soient XG(p) et YG(q) indépendantes, avec p et q dans ]0,1[. Posons M=min(X,Y). Montrons que

MG(1(1p)(1q)).

Étape 1 : la probabilité de dépasser k. La variable X est le rang du premier succès dans une suite d'épreuves indépendantes de probabilité p. Pour tout entier k0, l'événement [X>k] signifie que les k premières épreuves ont échoué, donc

P(X>k)=(1p)k.

On peut aussi le retrouver par le calcul, en sommant la série géométrique :

P(X>k)=m=k+1+p(1p)m1=p×(1p)k1(1p)=(1p)k.

De même P(Y>k)=(1q)k.

Étape 2 : le minimum. Pour tout entier k0, la traduction puis l'indépendance donnent

P(M>k)=P([X>k][Y>k])=P(X>k)P(Y>k)=(1p)k(1q)k=((1p)(1q))k.

Posons r=1(1p)(1q), de sorte que (1p)(1q)=1r. Comme p et q appartiennent à ]0,1[, le produit (1p)(1q) appartient lui aussi à ]0,1[, donc r]0,1[ : c'est bien un paramètre de loi géométrique. On a obtenu

P(M>k)=(1r)k.

Étape 3 : la loi. La variable M est à valeurs dans N, comme minimum de deux variables à valeurs dans N. Pour tout entier k1,

P(M=k)=P(M>k1)P(M>k)=(1r)k1(1r)k=(1r)k1(1(1r))=r(1r)k1.

C'est exactement la loi géométrique de paramètre r, donc MG(1(1p)(1q)), et en particulier E(M)=1r.

Lecture du résultat. L'égalité 1r=(1p)(1q) se lit très bien : à chaque tour, échouer sur les deux épreuves à la fois a pour probabilité le produit des deux probabilités d'échec. Le premier succès de l'un ou de l'autre arrive donc comme le premier succès d'une épreuve unique de probabilité r.

Application numérique. Avec p=12 et q=13 :

r=112×23=113=23,E(M)=32.

Exemple

Le maximum des deux mêmes variables. Gardons XG(12) et YG(13) indépendantes, et posons N=max(X,Y). Pour tout entier k1, on utilise cette fois l'événement [k] :

P(Xk)=1P(X>k)=1(12)k,P(Yk)=1(23)k,

puis, par la traduction et l'indépendance,

P(Nk)=(1(12)k)(1(23)k)=1(12)k(23)k+(13)k.

Les deux premières valeurs sont

P(N=1)=P(N1)=12×13=16,P(N=2)=P(N2)P(N1)=34×5916=512212=14.

Contrairement au minimum, le maximum ne suit pas une loi usuelle. En revanche, son espérance s'obtient sans effort grâce à l'identité

min(X,Y)+max(X,Y)=X+Y,

vraie issue par issue puisque le plus petit et le plus grand de deux nombres sont ces deux nombres. La linéarité de l'espérance donne alors

E(N)=E(X)+E(Y)E(M)=2+332=72.

Stabilité des lois binomiales et des lois de Poisson

Additionner deux variables indépendantes de même famille ne redonne pas, en général, une variable de cette famille. Deux cas font exception, et ce sont deux résultats à connaître par coeur.

Propriété

Stabilité de la loi binomiale. Soient X1B(n1,p) et X2B(n2,p) deux variables indépendantes de même paramètre p. Alors

X1+X2B(n1+n2,p).

Démonstration. Notons S=X1+X2 et q=1p. La variable S est à valeurs dans [ ⁣[0,n1+n2] ⁣]. Fixons k dans cet intervalle. La famille ([X1=i])0in1 est un système complet d'événements, donc la formule des probabilités totales donne

P(S=k)=i=0n1P([X1=i][S=k])=i=0n1P([X1=i][X2=ki]),

car, à l'intérieur de l'événement [X1=i], dire que S=k revient à dire que X2=ki. L'indépendance de X1 et X2 transforme chaque terme en produit :

P(S=k)=i=0n1P(X1=i)P(X2=ki)=i=0n1(n1i)piqn1i×(n2ki)pkiqn2k+i,

avec la convention usuelle (nm)=0 dès que m<0 ou m>n, qui annule automatiquement les termes correspondant à des valeurs impossibles de X2. Les puissances de p et de q se regroupent, et elles ne dépendent plus de i :

pi×pki=pk,qn1i×qn2k+i=qn1+n2k.

C'est ici que l'hypothèse « même p » est utilisée, et elle est indispensable. On peut donc sortir ces facteurs de la somme :

P(S=k)=pkqn1+n2ki=0n1(n1i)(n2ki).

La formule de Vandermonde, que l'on rappelle et que l'on admet, affirme que

i=0n1(n1i)(n2ki)=(n1+n2k).

Elle se lit d'ailleurs très bien : pour choisir k personnes dans un groupe de n1 femmes et n2 hommes, on choisit i femmes puis ki hommes, et l'on somme sur i. Finalement

P(S=k)=(n1+n2k)pk(1p)n1+n2k,

ce qui est exactement la loi B(n1+n2,p).

Ce théorème n'a rien de surprenant si l'on revient au sens des lois : X1 compte les succès de n1 épreuves indépendantes de probabilité p, X2 ceux de n2 autres épreuves, indépendantes des premières et de même probabilité p. Leur somme compte donc les succès de n1+n2 épreuves indépendantes de probabilité p.

Propriété

L'hypothèse « même p » est indispensable. Si les deux paramètres diffèrent, la somme n'est pas binomiale.

Démonstration. Prenons X1B(1,12) et X2B(1,14) indépendantes, et S=X1+X2, à valeurs dans {0,1,2}. Par indépendance,

P(S=0)=12×34=38,P(S=2)=12×14=18,P(S=1)=13818=12.

Supposons par l'absurde que S suive une loi B(2,p). La linéarité de l'espérance donne E(S)=12+14=34, et l'espérance d'une loi B(2,p) vaut 2p, donc p=38. Il faudrait alors

P(S=2)=p2=964,alors queP(S=2)=18=864.

Ces deux nombres diffèrent : contradiction.

Propriété

Stabilité de la loi de Poisson. Soient X1P(λ1) et X2P(λ2) deux variables indépendantes. Alors

X1+X2P(λ1+λ2).

Ici, aucune condition sur les paramètres : ils peuvent être différents.

Démonstration. Notons S=X1+X2, à valeurs dans N. Fixons kN. Comme ci-dessus, la formule des probabilités totales avec le système complet ([X1=i])iN, puis l'indépendance, donnent

P(S=k)=i=0kP(X1=i)P(X2=ki),

la somme s'arrêtant à i=k puisque X2 ne prend pas de valeur strictement négative. En remplaçant par les lois de Poisson :

P(S=k)=i=0keλ1λ1ii!×eλ2λ2ki(ki)!=e(λ1+λ2)i=0kλ1iλ2kii!(ki)!=e(λ1+λ2)k!i=0kk!i!(ki)!λ1iλ2ki=e(λ1+λ2)k!i=0k(ki)λ1iλ2ki=e(λ1+λ2)(λ1+λ2)kk!,

où l'on a multiplié et divisé par k! pour faire apparaître le coefficient binomial, puis reconnu la formule du binôme de Newton. C'est exactement la loi P(λ1+λ2).

Exemple

Un standard téléphonique. Le nombre d'appels reçus le matin suit une loi P(4), celui de l'après-midi une loi P(6), et les deux périodes sont indépendantes. Le nombre total d'appels de la journée suit donc la loi P(10), d'espérance 10 et de variance 10. La probabilité de n'en recevoir aucun de la journée vaut e10.

Propriété

La somme de deux lois géométriques n'est pas géométrique. Si X1 et X2 suivent la loi G(p) et sont indépendantes, alors X1+X2 ne suit aucune loi géométrique.

Démonstration. Les variables X1 et X2 sont à valeurs dans N, donc leur somme est à valeurs dans {2,3,4,} : en particulier P(X1+X2=1)=0. Or toute variable suivant une loi géométrique de paramètre p]0,1[ vérifie P(=1)=p0. La somme ne peut donc pas être géométrique.

Il n'existe ainsi que deux théorèmes de stabilité au programme, la binomiale à paramètre commun et la loi de Poisson. Écrire « la somme de deux géométriques indépendantes est géométrique » est une faute grave et fréquente, et la décomposition en temps d'attente de la partie 3 montrera ce que cette somme représente réellement.

Covariance de deux variables aléatoires

Définition

Soient X et Y deux variables aléatoires discrètes admettant un moment d'ordre 2, c'est-à-dire telles que E(X2) et E(Y2) existent. La covariance de X et Y est le réel

Cov(X,Y)=E((XE(X))(YE(Y))).

C'est l'exacte transposition de la covariance empirique de la partie 1 : la moyenne des données y devient l'espérance, et la moyenne des produits d'écarts devient une espérance de produit d'écarts.

Propriété

Formule de Kœnig-Huygens.

Cov(X,Y)=E(XY)E(X)E(Y).

Démonstration. Notons m=E(X) et m=E(Y), qui sont des constantes. Développons le produit à l'intérieur de l'espérance :

(Xm)(Ym)=XYmXmY+mm.

La linéarité de l'espérance, appliquée aux quatre termes (l'espérance d'une constante étant cette constante), donne

Cov(X,Y)=E(XY)mE(X)mE(Y)+mm=E(XY)mmmm+mm=E(XY)mm=E(XY)E(X)E(Y).

Notons qu'aucune hypothèse d'indépendance n'intervient : seule la linéarité est utilisée.

Propriété

Propriétés de la covariance. Pour toutes variables X, Y, Z admettant un moment d'ordre 2 et tous réels a, b :

a. Symétrie : Cov(X,Y)=Cov(Y,X).

b. Lien avec la variance : Cov(X,X)=V(X).

c. Constantes : Cov(X,a)=0.

d. Bilinéarité : Cov(aX+bZ,Y)=aCov(X,Y)+bCov(Z,Y), et de même par rapport à la seconde variable.

Démonstration. a. Le produit de deux réels est commutatif, donc (XE(X))(YE(Y))=(YE(Y))(XE(X)), et les deux espérances sont égales.

b. En prenant Y=X dans la définition, Cov(X,X)=E((XE(X))2)=V(X), qui est la définition même de la variance.

c. La variable constante égale à a a pour espérance a, donc, par Kœnig-Huygens, Cov(X,a)=E(aX)E(X)×a=aE(X)aE(X)=0.

d. Utilisons Kœnig-Huygens et la linéarité de l'espérance, en remarquant que (aX+bZ)Y=a(XY)+b(ZY) :

Cov(aX+bZ,Y)=E((aX+bZ)Y)E(aX+bZ)E(Y)=aE(XY)+bE(ZY)(aE(X)+bE(Z))E(Y)=a(E(XY)E(X)E(Y))+b(E(ZY)E(Z)E(Y))=aCov(X,Y)+bCov(Z,Y).

La linéarité par rapport à la seconde variable s'en déduit par symétrie.

La propriété c jointe à la bilinéarité donne une conséquence commode : Cov(X+a,Y+b)=Cov(X,Y). Comme pour la covariance empirique, translater les variables ne change rien.

Propriété

Indépendance et covariance. Si X et Y sont indépendantes (et admettent un moment d'ordre 2), alors

Cov(X,Y)=0.

On dit alors que X et Y sont non corrélées.

Démonstration. L'indépendance donne E(XY)=E(X)E(Y), résultat admis plus haut. La formule de Kœnig-Huygens s'écrit alors

Cov(X,Y)=E(XY)E(X)E(Y)=E(X)E(Y)E(X)E(Y)=0.

Propriété

La réciproque est FAUSSE. Il existe des couples de variables non corrélées, c'est-à-dire de covariance nulle, qui ne sont pas indépendantes.

Démonstration. Voici le contre-exemple de référence, à savoir rédiger intégralement.

Soit X une variable suivant la loi uniforme sur {1,0,1}, c'est-à-dire P(X=1)=P(X=0)=P(X=1)=13, et posons Y=X2.

Calcul de la covariance. Par transfert à une variable,

E(X)=1+0+13=0,E(XY)=E(X3)=(1)3+03+133=1+0+13=0.

Kœnig-Huygens donne donc

Cov(X,Y)=E(XY)E(X)E(Y)=00×E(Y)=0.

Les deux variables sont donc non corrélées.

Elles ne sont pourtant pas indépendantes. La variable Y=X2 prend les valeurs 0 et 1, avec

P(Y=0)=P(X=0)=13.

Considérons alors le couple (0,0) :

P([X=0][Y=0])=P(X=0)=13,alors queP(X=0)P(Y=0)=13×13=19.

Comme 1319, les variables X et Y ne sont pas indépendantes.

Ce contre-exemple est à méditer, car il dit exactement ce que mesure la covariance. Ici, Y est entièrement déterminée par X : la dépendance est totale. Mais cette dépendance est de nature quadratique, et la covariance, qui ne détecte que les liaisons affines, ne la voit pas. C'est le pendant probabiliste du panneau parabolique de la figure des quatre nuages.

Il faut donc retenir la hiérarchie exacte : indépendantes entraîne non corrélées, et la flèche ne se remonte pas. Pour prouver une indépendance, on revient toujours à la définition avec les P([X=x][Y=y]), jamais à une covariance nulle.

Méthode

Calculer une covariance. Trois voies, à choisir selon les données.

  1. Par Kœnig-Huygens, la voie normale : calculer E(X), E(Y), puis E(XY) par le théorème de transfert, et soustraire. C'est ce qu'on fait dès qu'on dispose du tableau de la loi conjointe.
  2. Par la bilinéarité, quand les variables sont des combinaisons d'autres variables dont on connaît déjà les covariances. On développe comme un produit, en n'oubliant pas que Cov(X,X)=V(X).
  3. Par une variance déjà connue, en utilisant la formule de la variance d'une somme « à l'envers » :
Cov(X,Y)=V(X+Y)V(X)V(Y)2.

Et un réflexe : si l'énoncé dit que les variables sont indépendantes, la covariance est nulle, il n'y a rien à calculer.

Exemple

a. Covariance de l'exemple filé. Avec les deux tirages sans remise, on a calculé E(X)=E(Y)=2 et E(XY)=113. Donc

Cov(X,Y)=1132×2=11123=13.

Elle est négative, ce qui s'interprète : le premier jeton tiré n'étant plus disponible, un grand numéro au premier tirage rend un grand numéro au second un peu moins probable.

b. Un cas de covariance positive. Un client d'un magasin peut acheter le produit A et le produit B. Notons X la variable valant 1 s'il achète A et 0 sinon, Y de même pour B. La loi conjointe observée est la suivante.

X\Y 0 1 Loi de X
0 38 18 12
1 18 38 12
Loi de Y 12 12 1

Les deux marginales sont des lois de Bernoulli de paramètre 12, donc E(X)=E(Y)=12 et V(X)=V(Y)=12×12=14. Le produit XY ne vaut 1 que sur la case (1,1), donc E(XY)=38, d'où

Cov(X,Y)=3812×12=3828=18>0.

Les deux achats vont plutôt ensemble. Au passage, 3812×12 montre aussi que X et Y ne sont pas indépendantes.

Coefficient de corrélation linéaire

Définition

Soient X et Y deux variables aléatoires admettant un moment d'ordre 2, avec σ(X)0 et σ(Y)0. Le coefficient de corrélation linéaire de X et Y est le réel

ρ(X,Y)=Cov(X,Y)σ(X)σ(Y).

Propriété

Encadrement. 1ρ(X,Y)1, c'est-à-dire

Cov(X,Y)σ(X)σ(Y).

Démonstration. Considérons la fonction ψ définie sur R par ψ(t)=V(tX+Y). Une variance est toujours positive ou nulle, donc ψ(t)0 pour tout réel t. Développons ψ à l'aide de la bilinéarité et de la symétrie de la covariance, en écrivant la variance comme une covariance :

ψ(t)=Cov(tX+Y,tX+Y)=tCov(X,tX+Y)+Cov(Y,tX+Y)=t2Cov(X,X)+tCov(X,Y)+tCov(Y,X)+Cov(Y,Y)=V(X)t2+2Cov(X,Y)t+V(Y).

Comme σ(X)0, on a V(X)>0 : la fonction ψ est donc un trinôme du second degré de coefficient dominant strictement positif, positif ou nul sur R tout entier. Son discriminant est donc négatif ou nul :

Δ=4Cov(X,Y)24V(X)V(Y)0,soitCov(X,Y)2V(X)V(Y).

En prenant la racine carrée des deux membres positifs, Cov(X,Y)σ(X)σ(Y), puis en divisant par σ(X)σ(Y)>0, on obtient ρ(X,Y)1.

Propriété

Cas d'égalité. On a ρ(X,Y)=1 si, et seulement s'il existe deux réels α0 et β tels que

P(Y=αX+β)=1,

c'est-à-dire si Y est presque sûrement une fonction affine de X. Le réel α a alors le signe de ρ(X,Y).

Démonstration. Utilisons d'abord un lemme : une variable Z vérifie V(Z)=0 si, et seulement si, P(Z=E(Z))=1. En effet, par transfert,

V(Z)=E((ZE(Z))2)=z(zE(Z))2P(Z=z),

somme de termes tous positifs. Elle est nulle si, et seulement si, chaque terme l'est, c'est-à-dire si P(Z=z)=0 pour toute valeur zE(Z) : toute la probabilité est alors concentrée sur la valeur E(Z).

Sens direct. Supposons ρ(X,Y)=1. Alors le discriminant du trinôme ψ ci-dessus est nul, donc ψ admet une racine double

t0=Cov(X,Y)V(X),etV(t0X+Y)=ψ(t0)=0.

D'après le lemme, la variable t0X+Y est presque sûrement égale à son espérance, que nous notons c. Donc P(Y=t0X+c)=1, ce qui est la forme voulue avec α=t0=Cov(X,Y)V(X), non nul car ρ0, et β=c. Le signe de α est celui de Cov(X,Y), donc celui de ρ(X,Y).

Réciproque. Supposons P(Y=αX+β)=1 avec α0. Les variables Y et αX+β sont alors presque sûrement égales, donc XY et X(αX+β) aussi : ces deux produits ont la même espérance. La bilinéarité donne alors

Cov(X,Y)=Cov(X,αX+β)=αV(X),V(Y)=V(αX+β)=α2V(X).

Par conséquent σ(Y)=ασ(X) et

ρ(X,Y)=αV(X)σ(X)×ασ(X)=αα=±1.

Propriété

Interprétation. Le coefficient ρ(X,Y) est sans unité et mesure l'intensité de la liaison affine entre les deux variables.

  • ρ(X,Y)=0 : les variables sont non corrélées. Elles peuvent parfaitement être dépendantes (contre-exemple de Y=X2 ci-dessus).
  • ρ(X,Y) proche de ±1 : Y est presque une fonction affine de X, croissante si ρ>0, décroissante si ρ<0.
  • X et Y indépendantes entraîne ρ(X,Y)=0, et la réciproque est fausse.

Exemple

Corrélation de l'exemple filé. Avec les deux tirages sans remise, Cov(X,Y)=13 et V(X)=V(Y)=23, donc σ(X)σ(Y)=23 et

ρ(X,Y)=1323=12.

La liaison est décroissante et d'intensité moyenne. Elle n'est pas parfaite (ρ1), ce qui est cohérent : connaître X ne détermine pas Y, il reste deux jetons possibles.

Pour le couple d'achats vu plus haut, Cov(X,Y)=18 et σ(X)σ(Y)=12×12=14, donc ρ(X,Y)=1/81/4=12 : liaison croissante d'intensité moyenne.

Variance d'une somme

Propriété

Variance d'une somme de deux variables. Pour toutes variables X et Y admettant un moment d'ordre 2,

V(X+Y)=V(X)+V(Y)+2Cov(X,Y).

Démonstration. C'est le calcul déjà fait pour l'encadrement de ρ, pris en t=1. Écrivons la variance comme une covariance et développons par bilinéarité :

V(X+Y)=Cov(X+Y,X+Y)=Cov(X,X)+Cov(X,Y)+Cov(Y,X)+Cov(Y,Y)=V(X)+2Cov(X,Y)+V(Y),

en utilisant la symétrie de la covariance pour regrouper les deux termes centraux.

Propriété

Cas de variables indépendantes. Si X et Y sont indépendantes, alors

V(X+Y)=V(X)+V(Y).

Démonstration. L'indépendance entraîne Cov(X,Y)=0, et le terme croisé disparaît.

L'hypothèse est indispensable, et c'est la faute la plus fréquente du chapitre : la variance n'est pas linéaire. L'espérance d'une somme est toujours la somme des espérances ; la variance d'une somme n'est la somme des variances que si le terme de covariance s'annule.

Propriété

Variance d'une différence.

V(XY)=V(X)+V(Y)2Cov(X,Y),

et donc V(XY)=V(X)+V(Y) si X et Y sont indépendantes.

Démonstration. Il suffit d'écrire XY=X+(Y) et d'appliquer la propriété précédente, en utilisant V(Y)=(1)2V(Y)=V(Y) et, par bilinéarité, Cov(X,Y)=Cov(X,Y).

Notez bien le signe + devant V(Y) dans la différence : deux sources de dispersion indépendantes s'ajoutent toujours, qu'on additionne ou qu'on soustraie les variables.

Exemple

Vérification sur l'exemple filé. Avec les deux tirages sans remise, V(X)=V(Y)=23 et Cov(X,Y)=13. La formule donne

V(X+Y)=23+23+2×(13)=4323=23.

Ce résultat coïncide avec le calcul direct mené plus haut, où l'on avait trouvé que X+Y suit la loi uniforme sur {3,4,5}, de variance 23.

Pour la différence,

V(XY)=23+23+23=2.

Vérifions-le directement : XY prend les valeurs 2, 1, 1, 2 avec les probabilités 16, 13, 13, 16, donc E(XY)=0 par symétrie et

V(XY)=E((XY)2)=4×16+1×13+1×13+4×16=23+13+13+23=2.

Les deux méthodes concordent. Remarquez au passage que V(X+Y)V(X)+V(Y) ici : la somme des variances vaudrait 43, ce qui est faux, précisément parce que les deux tirages ne sont pas indépendants.

Suites de variables aléatoires discrètes

Passer de deux variables à n variables, puis à une suite infinie, n'apporte aucune idée nouvelle : ce sont les mêmes définitions, écrites avec des indices. En revanche, cela ouvre l'accès aux deux méthodes les plus rentables des concours, la décomposition en indicatrices et la décomposition en temps d'attente, qui font l'objet des deux encadrés de méthode ci-dessous.

Indépendance mutuelle

Définition

Les variables aléatoires discrètes X1,,Xn, définies sur le même espace probabilisé, sont mutuellement indépendantes lorsque, pour tout n-uplet (x1,,xn) de X1(Ω)××Xn(Ω),

P(i=1n[Xi=xi])=i=1nP(Xi=xi).

Une suite (Xi)i1 de variables aléatoires discrètes est dite indépendante lorsque, pour tout entier n, les variables X1,,Xn sont mutuellement indépendantes.

Dire d'une suite infinie qu'elle est indépendante revient donc à le dire de toutes ses sous-familles finies : on ne demande jamais d'écrire un produit infini. C'est ce cadre qui permet de modéliser une succession illimitée d'épreuves identiques, par exemple les lancers répétés d'une pièce.

Propriété

Mutuelle entraîne deux à deux. Si X1,,Xn sont mutuellement indépendantes, alors elles sont indépendantes deux à deux. La réciproque est fausse.

Démonstration. Implication. Traitons le cas n=3, le cas général étant identique avec des notations plus lourdes. Soient x1 et x2 deux valeurs. La famille ([X3=x3])x3X3(Ω) est un système complet d'événements, donc la formule des probabilités totales, puis l'hypothèse d'indépendance mutuelle, donnent

P([X1=x1][X2=x2])=x3P([X1=x1][X2=x2][X3=x3])=x3P(X1=x1)P(X2=x2)P(X3=x3)=P(X1=x1)P(X2=x2)x3P(X3=x3)=P(X1=x1)P(X2=x2),

puisque la dernière somme vaut 1. Donc X1 et X2 sont indépendantes, et il en va de même de tout autre couple.

Contre-exemple pour la réciproque. On lance deux fois une pièce équilibrée. Notons X1 la variable valant 1 si le premier lancer donne pile et 0 sinon, X2 de même pour le second lancer, et posons

X3={1si les deux lancers donnent le meˆme reˊsultat,0sinon.

Les quatre issues sont équiprobables, de probabilité 14. On a P(X1=1)=P(X2=1)=12, et X3=1 pour deux des quatre issues, donc P(X3=1)=12.

Vérifions l'indépendance de X1 et X3. L'événement [X1=1][X3=1] signifie « premier lancer pile, et les deux lancers identiques », c'est-à-dire « deux piles » : sa probabilité vaut 14=12×12. Les trois autres couples de valeurs se traitent de la même façon et donnent également 14, donc X1 et X3 sont indépendantes. Par symétrie, X2 et X3 le sont aussi, et X1 et X2 le sont par construction : les trois variables sont indépendantes deux à deux.

Elles ne sont pourtant pas mutuellement indépendantes :

P([X1=1][X2=1][X3=1])=P(deux piles)=14,alors que12×12×12=18.

La raison est facile à dire : prises deux par deux, les trois variables ne s'informent pas les unes les autres, mais la connaissance de deux d'entre elles détermine complètement la troisième. L'indépendance mutuelle est donc strictement plus forte que l'indépendance deux à deux, et c'est elle que les énoncés supposent quand ils écrivent « les variables sont indépendantes ».

Lemme des coalitions

Propriété

Lemme des coalitions (admis). Soient X1,,Xn des variables aléatoires discrètes mutuellement indépendantes et p[ ⁣[1,n1] ⁣]. Alors toute variable aléatoire fonction de X1,,Xp est indépendante de toute variable aléatoire fonction de Xp+1,,Xn.

Le nom vient de l'image : on sépare les variables en deux coalitions, et ce que fabrique la première coalition est indépendant de ce que fabrique la seconde. Le lemme est admis, comme le prévoit le programme, mais son emploi doit être explicitement cité dans une copie.

Exemple

Trois usages typiques. Soient X1,X2,X3,X4 mutuellement indépendantes.

a. X1+X2 est indépendante de X3X4 : la première est fonction de la coalition {X1,X2}, la seconde de la coalition {X3,X4}. On en déduit par exemple

E((X1+X2)X3X4)=E(X1+X2)E(X3X4).

b. max(X1,X2) est indépendante de X3, donc V(max(X1,X2)+X3)=V(max(X1,X2))+V(X3).

c. Avec p=1 et n=2, le lemme redonne le résultat annoncé dans la partie 2 : si X et Y sont indépendantes, alors g(X) et h(Y) le sont, donc X2 et Y3 sont indépendantes.

Une mise en garde : les deux coalitions doivent être disjointes. La variable X1+X2 n'est évidemment pas indépendante de X2+X3, puisque X2 figure dans les deux.

Espérance et variance d'une somme de n variables

Propriété

Espérance d'une somme. Si X1,,Xn admettent chacune une espérance, alors leur somme aussi et

E(i=1nXi)=i=1nE(Xi).

Plus généralement, pour tous réels a1,,an, E(aiXi)=aiE(Xi). Aucune hypothèse d'indépendance n'est nécessaire.

Démonstration. Par récurrence sur n. Pour n=1 il n'y a rien à démontrer, et pour n=2 c'est la linéarité de l'espérance. Supposons le résultat vrai au rang n et considérons n+1 variables. En posant Sn=i=1nXi, la linéarité à deux variables appliquée au couple (Sn,Xn+1) donne

E(Sn+1)=E(Sn+Xn+1)=E(Sn)+E(Xn+1)=i=1nE(Xi)+E(Xn+1)=i=1n+1E(Xi),

ce qui achève la récurrence.

Propriété

Variance d'une somme, cas général. Si X1,,Xn admettent un moment d'ordre 2, alors

V(i=1nXi)=i=1nV(Xi)+21i<jnCov(Xi,Xj).

Démonstration. La bilinéarité de la covariance s'étend par récurrence immédiate à des sommes de n termes. En écrivant la variance comme une covariance,

V(i=1nXi)=Cov(i=1nXi,  j=1nXj)=i=1nj=1nCov(Xi,Xj).

Séparons cette somme double en deux paquets. Les termes diagonaux, ceux pour lesquels i=j, valent Cov(Xi,Xi)=V(Xi). Les termes non diagonaux se regroupent deux par deux : pour ij, les couples (i,j) et (j,i) apparaissent tous les deux, et la symétrie donne Cov(Xi,Xj)=Cov(Xj,Xi). D'où

i=1nj=1nCov(Xi,Xj)=i=1nV(Xi)+21i<jnCov(Xi,Xj).

Propriété

Variance d'une somme de variables indépendantes. Si X1,,Xn sont mutuellement indépendantes et admettent un moment d'ordre 2, alors

V(i=1nXi)=i=1nV(Xi).

Démonstration. L'indépendance mutuelle entraîne l'indépendance deux à deux, donc Cov(Xi,Xj)=0 pour tous ij, deux variables indépendantes étant non corrélées. Tous les termes croisés de la formule générale disparaissent.

On notera que la démonstration n'utilise que l'indépendance deux à deux : c'est une hypothèse plus faible qui suffit pour la variance, même si les énoncés donnent presque toujours l'indépendance mutuelle.

Exemple

Retrouver espérance et variance d'une loi binomiale. Soit XB(n,p). La variable X compte les succès de n épreuves indépendantes de probabilité p, donc X=i=1nXiXi vaut 1 si la i-ième épreuve est un succès et 0 sinon. Chaque Xi suit la loi B(p), donc E(Xi)=p et V(Xi)=p(1p), et les Xi sont mutuellement indépendantes. Il vient immédiatement

E(X)=i=1np=np,V(X)=i=1np(1p)=np(1p).

Ces deux formules, démontrées en première année par un calcul de sommes bien plus lourd, tiennent ici en deux lignes. C'est tout l'intérêt de la méthode du paragraphe suivant.

Deux méthodes à connaître par coeur

a. La méthode des indicatrices. La première méthode transforme un comptage en une somme de variables de Bernoulli, ce qui rend l'espérance immédiate même lorsque la loi de la variable comptée est inaccessible.

Définition

Soit A un événement. La variable indicatrice de A, notée 1A, est la variable aléatoire qui vaut 1 si A est réalisé et 0 sinon.

Propriété

Pour tous événements A et B :

a. 1AB(P(A)), donc E(1A)=P(A) et V(1A)=P(A)(1P(A)) ;

b. 1A1B=1AB, et en particulier 1A2=1A ;

c. Cov(1A,1B)=P(AB)P(A)P(B).

Démonstration. a. La variable 1A ne prend que les valeurs 0 et 1, et [1A=1]=A : c'est donc une variable de Bernoulli de paramètre P(A), dont l'espérance et la variance sont connues.

b. Le produit 1A(ω)1B(ω) vaut 1 si et seulement si les deux facteurs valent 1, c'est-à-dire si ω appartient à A et à B, donc à AB ; il vaut 0 sinon. C'est exactement 1AB(ω). En prenant B=A, on obtient 1A2=1A.

c. Par Kœnig-Huygens et le point b,

Cov(1A,1B)=E(1A1B)E(1A)E(1B)=E(1AB)P(A)P(B)=P(AB)P(A)P(B).

Méthode

La méthode des indicatrices. Elle s'applique dès qu'une variable compte quelque chose, et elle évite d'avoir à déterminer sa loi, souvent inaccessible.

  1. Repérer ce que la variable compte : « le nombre de tirages qui donnent une boule blanche », « le nombre de personnes qui reçoivent leur propre cadeau », « le nombre de couleurs présentes dans la main ».
  2. Nommer les événements A1,,An correspondant à chacune des situations comptées, et écrire, en le justifiant en une phrase,
X=i=1n1Ai.
  1. Calculer P(Ai), puis l'espérance par linéarité :
E(X)=i=1nP(Ai).

Aucune hypothèse d'indépendance n'est requise, et c'est ce qui rend la méthode si puissante. 4. Pour la variance, calculer aussi P(AiAj) pour ij, puis appliquer la formule générale de la variance d'une somme. Ne jamais écrire V(X)=V(1Ai) sans avoir vérifié l'indépendance : le plus souvent, les Ai ne sont pas indépendants. 5. Contrôler que E(X) est bien comprise entre les valeurs extrêmes possibles de X.

Exemple

Le problème des enveloppes. Une secrétaire distribue au hasard n lettres dans n enveloppes déjà libellées, une par enveloppe, avec n2. On note X le nombre de lettres qui arrivent à leur destinataire. Déterminer la loi de X est difficile ; son espérance et sa variance ne le sont pas.

Modélisation. Une distribution est une bijection des lettres vers les enveloppes, il y en a n!, toutes équiprobables. Notons Ai l'événement « la lettre numéro i est dans la bonne enveloppe ». Une lettre est bien placée ou ne l'est pas, donc

X=i=1n1Ai.

Probabilités. Pour compter les distributions réalisant Ai, on fixe la lettre i dans son enveloppe et l'on répartit librement les n1 autres, ce qui laisse (n1)! possibilités. Donc

P(Ai)=(n1)!n!=1n.

De même, pour ij, on fixe deux lettres et l'on répartit les n2 autres :

P(AiAj)=(n2)!n!=1n(n1).

Espérance. Par linéarité, sans aucune hypothèse d'indépendance,

E(X)=i=1nP(Ai)=n×1n=1.

En moyenne, une seule lettre arrive à bon port, et ce quel que soit n. Le résultat est contre-intuitif et pourtant exact.

Variance. Les événements Ai ne sont pas indépendants : savoir que n1 lettres sont bien placées force la dernière à l'être aussi. Il faut donc la formule complète. D'une part,

i=1nV(1Ai)=n×1n(11n)=11n.

D'autre part, pour ij,

Cov(1Ai,1Aj)=P(AiAj)P(Ai)P(Aj)=1n(n1)1n2=n(n1)n2(n1)=1n2(n1).

Le nombre de couples (i,j) tels que i<j vaut (n2)=n(n1)2, donc

2i<jCov(1Ai,1Aj)=2×n(n1)2×1n2(n1)=1n.

Finalement

V(X)=11n+1n=1.

L'espérance et la variance valent donc toutes deux 1, quel que soit le nombre de lettres. Notez que le calcul « rapide » V(X)=V(1Ai)=11n aurait donné un résultat faux : la covariance, minuscule case par case, ne se néglige pas une fois multipliée par le nombre de couples.

b. La décomposition en temps d'attente. La seconde méthode découpe une durée totale en étapes successives, chacune de loi géométrique, ce qui ramène le calcul d'une espérance à une simple addition.

Méthode

La décomposition en temps d'attente. Elle s'applique dès qu'une variable mesure une durée totale avant l'aboutissement d'une expérience répétée.

  1. Découper la durée en étapes : le temps qui s'écoule avant le premier objectif, puis entre le premier et le deuxième, et ainsi de suite. Écrire
T=T1+T2++Tm,

en disant précisément ce que compte chaque Tk. 2. Reconnaître une loi géométrique pour chaque Tk : à partir du moment où l'étape k commence, chaque tentative réussit avec une probabilité pk constante, indépendamment des précédentes. Alors TkG(pk), et il faut identifier ce pk avec soin, car il change d'une étape à l'autre. 3. Sommer les espérances par linéarité : E(T)=k1pk. 4. Pour la variance, invoquer l'indépendance des Tk, qui découle de l'indépendance des tentatives successives, puis V(T)=k1pkpk2.

Exemple

Le collectionneur de figurines. Un fabricant glisse dans chaque paquet de céréales une figurine choisie au hasard parmi 4 modèles, de façon équiprobable et indépendante d'un paquet à l'autre. On note T le nombre de paquets qu'il faut acheter pour posséder la collection complète.

Découpage. Notons Tk, pour k{0,1,2,3}, le nombre de paquets achetés pour passer de k modèles distincts à k+1 modèles distincts. Alors

T=T0+T1+T2+T3.

Loi de chaque étape. Le tout premier paquet apporte forcément un modèle nouveau, donc T0=1 : cette étape est certaine, d'espérance 1 et de variance 0. Pour k{1,2,3}, lorsque l'on possède déjà k modèles, un paquet apporte une nouveauté si sa figurine fait partie des 4k modèles manquants, ce qui arrive avec la probabilité 4k4, indépendamment des paquets précédents. La variable Tk est donc le rang du premier succès d'une suite d'épreuves indépendantes de paramètre pk=4k4 :

T1G(34),T2G(12),T3G(14).

Espérance. Par linéarité, et puisque l'espérance d'une loi G(p) vaut 1p,

E(T)=44+43+42+41=1+43+2+4=3+4+6+123=2538,33.

Il faut donc acheter en moyenne un peu plus de huit paquets pour compléter une collection de quatre figurines, alors qu'un raisonnement naïf en annoncerait quatre.

Variance. Les variables T0,T1,T2,T3 sont indépendantes, ce que l'on admet ici, les paquets étant achetés indépendamment les uns des autres. La variance d'une loi G(p) valant 1pp2, il vient

V(T)=0+134(34)2+112(12)2+114(14)2=14916+1214+34116=49+2+12=4+1269=1309,

soit V(T)14,44 et σ(T)=13033,80. La dispersion est considérable : la dernière figurine se fait attendre.

Exemple

Le rang du m-ième succès. On répète indépendamment une épreuve de probabilité de succès p, et l'on note R le rang du m-ième succès. En posant T1 le rang du premier succès et, pour k2, Tk le nombre d'épreuves séparant le (k1)-ième succès du k-ième, on obtient

R=T1++Tm,avec T1,,Tm indeˊpendantes de loi G(p),

d'où E(R)=mp et V(R)=m(1p)p2.

Ce résultat éclaire la mise en garde de la partie 2 : une somme de variables géométriques indépendantes n'est pas géométrique, c'est un temps d'attente du m-ième succès, dont les valeurs commencent à m.

Moyenne empirique d'un échantillon

Définition

Soit (X1,,Xn) un échantillon de taille n, c'est-à-dire une famille de variables aléatoires mutuellement indépendantes et de même loi, d'espérance commune m et de variance commune σ2. La moyenne empirique de l'échantillon est la variable aléatoire

Xˉn=1ni=1nXi.

Ce dispositif modélise la répétition indépendante d'une même mesure : n pièces prélevées dans une production, n clients interrogés dans les mêmes conditions. L'abréviation « i.i.d. », pour « indépendantes et identiquement distribuées », est parfois employée pour cette hypothèse.

Propriété

Avec les notations ci-dessus,

E(Xˉn)=metV(Xˉn)=σ2n,doncσ(Xˉn)=σn.

Démonstration. Espérance. La linéarité, valable sans hypothèse, donne

E(Xˉn)=1ni=1nE(Xi)=1n×nm=m.

Variance. On utilise d'abord V(aZ)=a2V(Z) avec a=1n, puis l'indépendance des Xi :

V(Xˉn)=1n2V(i=1nXi)=1n2i=1nV(Xi)=1n2×nσ2=σ2n.

L'écart-type s'obtient en prenant la racine carrée.

Ces deux formules disent l'essentiel du sondage. La moyenne empirique est centrée sur la bonne valeur : son espérance est exactement la grandeur m que l'on cherche à connaître, quelle que soit la taille de l'échantillon. Et sa dispersion décroît quand n augmente, mais en 1n seulement : pour diviser par 2 l'écart-type de la moyenne, il faut multiplier par 4 la taille de l'échantillon. C'est le coût, bien connu des instituts de sondage, de toute amélioration de précision.

Exemple

Un contrôle de production. La masse d'une pièce produite par une machine a pour espérance m=250 grammes et pour écart-type σ=10 grammes. On prélève n=100 pièces, indépendamment les unes des autres, et l'on note Xˉ100 la masse moyenne du prélèvement. Alors

E(Xˉ100)=250 grammes,V(Xˉ100)=100100=1,σ(Xˉ100)=1 gramme.

La moyenne de 100 pièces est donc dix fois moins dispersée qu'une pièce isolée. Avec n=25 pièces seulement, on aurait σ(Xˉ25)=105=2 grammes.

Tableau récapitulatif

Les formules ci-dessous sont à connaître par coeur, hypothèses comprises. C'est l'oubli d'une hypothèse, bien plus qu'une erreur de formule, qui coûte des points dans ce chapitre.

Partie statistique (données observées (xi,yi)1in).

Objet Formule À retenir
Point moyen G(xˉ,yˉ) toute droite de régression y passe
Variance empirique sx2=1nxi2xˉ2 Kœnig-Huygens
Covariance empirique sxy=1nxiyixˉyˉ dépend des unités
Corrélation rxy=sxysxsy 1rxy1, sans unité
Cas rxy=1 points alignés et réciproquement
Droite de y en x a=sxysx2, b=yˉaxˉ minimise (yiaxib)2
Résidus minimaux nsy2(1rxy2) nuls si rxy=1
Pré-transformations y=Aebxlny=bx+lnA et y=Axblny=blnx+lnA

Partie probabilités (couple (X,Y) de variables discrètes).

Objet Formule Hypothèse
Loi conjointe ijpi,j=1 aucune
Marginales pi,=jpi,j aucune (les marges ne redonnent pas la conjointe)
Transfert E(g(X,Y))=ijg(xi,yj)pi,j admis
Linéarité E(aX+bY)=aE(X)+bE(Y) aucune
Produit E(XY)=E(X)E(Y) X et Y indépendantes
Indépendance pi,j=pi,p,j pour tous (i,j) définition
Minimum [min>k]=[X>k][Y>k] aucune pour l'égalité
Maximum [maxk]=[Xk][Yk] aucune pour l'égalité
Stabilité binomiale X1+X2B(n1+n2,p) indépendantes, même p
Stabilité Poisson X1+X2P(λ1+λ2) indépendantes
Covariance Cov(X,Y)=E(XY)E(X)E(Y) aucune
Indépendance et covariance indépendantes Cov(X,Y)=0 réciproque fausse
Corrélation ρ(X,Y)=Cov(X,Y)σ(X)σ(Y) ρ1
Variance d'une somme V(X+Y)=V(X)+V(Y)+2Cov(X,Y) aucune
Cas indépendant V(X+Y)=V(X)+V(Y) indépendantes
Somme de n variables E(Xi)=E(Xi) aucune
Variance de n variables V(Xi)=V(Xi) indépendantes
Indicatrices E(1A)=P(A), 1A1B=1AB aucune
Moyenne empirique E(Xˉn)=m, V(Xˉn)=σ2n échantillon indépendant de même loi

Quatre résultats du programme sont admis dans ce chapitre : le théorème de transfert, la linéarité de l'espérance, l'égalité E(XY)=E(X)E(Y) sous indépendance, et le lemme des coalitions. S'y ajoutent deux admissions techniques, signalées à l'endroit où elles servent : la formule de Vandermonde et l'indépendance des temps d'attente successifs du collectionneur. Tout le reste a été démontré ici.

Et cinq pièges reviennent à chaque copie. Confondre les objets empiriques (xˉ,sxy,rxy) et les objets probabilistes (E(X),Cov(X,Y),ρ(X,Y)). Croire que les lois marginales déterminent la loi conjointe. Ajouter des variances sans hypothèse d'indépendance. Déduire l'indépendance d'une covariance nulle, alors que la réciproque est fausse. Enfin, affirmer qu'une somme de lois géométriques indépendantes est géométrique, ou qu'une somme de binomiales de paramètres p différents est binomiale : ni l'une ni l'autre ne l'est.

Bloqué sur « Probabilités et statistiques : statistiques bivariées et couples » ?

On peut le travailler ensemble dès cette semaine. La première heure est offerte — on fait le point honnêtement, et vous repartez au minimum avec une méthode.