ECG appliquées · Chapitre 13 · Troisième semestre
Probabilités et statistiques : statistiques bivariées et couples
2e année
Statistiques bivariées, couples de variables aléatoires discrètes, suites de variables aléatoires discrètes.
Sommaire
Ce qu'il faut savoir faire
- Statistiques bivariées
- Couples de variables aléatoires discrètes
- Suites de variables aléatoires discrètes
Jusqu'ici, les statistiques et les probabilités n'ont su décrire qu'une seule grandeur à la fois : une série d'observations résumée par sa moyenne et son écart-type, une variable aléatoire résumée par son espérance et sa variance. Or l'économie et les sciences sociales ne posent presque jamais de question à une seule variable. On ne demande pas « quel est le budget publicitaire moyen ? », on demande « les entreprises qui dépensent davantage en publicité vendent-elles davantage ? ». On ne demande pas « quelle est la croissance moyenne du PIB ? », on demande « quand la croissance accélère, le chômage recule-t-il, et de combien ? ». Ces questions portent sur un lien entre deux grandeurs, et c'est l'objet de ce chapitre.
Le lien se décline en deux versions, qu'il faut soigneusement distinguer parce que les exercices passent de l'une à l'autre sans prévenir.
La première version est descriptive. On dispose de données déjà observées, deux nombres par individu, et l'on cherche à décrire la tendance qu'elles dessinent : c'est la statistique bivariée de la partie 1. Les objets y sont des nombres calculés sur des données, la covariance empirique et le coefficient de corrélation empirique , et le résultat central est la droite des moindres carrés, celle qui ajuste au mieux le nuage de points.
La seconde version est probabiliste. On modélise deux grandeurs aléatoires par un couple de variables aléatoires définies sur le même espace probabilisé, et l'on cherche à décrire leur dépendance avant même d'avoir observé quoi que ce soit : ce sont les parties 2 et 3. Les objets y sont des espérances, la covariance et le coefficient de corrélation .
Les deux mondes ont volontairement la même algèbre : même formule de Kœnig-Huygens, même encadrement entre et , même cas d'égalité. Ils n'ont pourtant pas le même statut. se calcule sur un tableau de données réelles, se calcule sur une loi. Confondre les deux dans une copie, en écrivant par exemple là où il faut , est une faute lourde. Une bonne habitude : dès qu'apparaît la barre de la moyenne et l'indice des individus, on est dans la partie descriptive ; dès qu'apparaît , on est dans la partie probabiliste.
Il faut dire tout de suite ce qui, dans ce chapitre, est admis. Quatre résultats seulement, et ce sont exactement ceux que le programme admet : le théorème de transfert pour un couple, la linéarité de l'espérance, l'égalité pour deux variables indépendantes, et le lemme des coalitions. On admet également, comme le demande le programme, que toutes les manipulations de sommes indexées par des ensembles dénombrables (interversion de deux sommations, regroupement de termes) sont licites : aucune question de convergence ne sera soulevée. Tout le reste est démontré ici, y compris les deux théorèmes de stabilité, et peut vous être redemandé. Deux résultats purement techniques sont en outre admis au moment où ils servent, et signalés en place : la formule de Vandermonde, qui intervient dans la démonstration de la stabilité binomiale, et l'indépendance des temps d'attente successifs dans l'exemple du collectionneur.
Voici les notations employées dans tout le chapitre.
| Notation | Signification |
|---|---|
| série statistique double : deux mesures sur chacun des individus | |
| , | moyennes des deux séries |
| , | variances empiriques ; , écarts-types empiriques |
| covariance empirique de la série double | |
| coefficient de corrélation linéaire empirique | |
| point moyen du nuage | |
| couple de variables aléatoires discrètes | |
| , loi conjointe | |
| , | lois marginales de et de |
| , , | espérance, variance, écart-type |
| covariance des variables et | |
| coefficient de corrélation linéaire de et | |
| indicatrice de l'événement : vaut si est réalisé, sinon | |
| « suit la loi binomiale de paramètres et » | |
| ensemble des entiers tels que | |
| fin d'une démonstration |
Statistiques bivariées
Série statistique double, nuage de points et point moyen
Définition
Une série statistique double est la donnée, pour chacun des individus d'une population, de deux caractères quantitatifs. On la note
où et sont les deux mesures relevées sur l'individu numéro .
Le nuage de points associé est l'ensemble des points du plan rapporté à un repère orthogonal.
Le point moyen du nuage est le point
Attention à ce que compte l'indice : numérote les individus, pas les valeurs distinctes. Deux individus peuvent parfaitement porter le même couple de valeurs, et le point correspondant est alors compté deux fois dans les moyennes, même s'il n'apparaît qu'une fois sur le dessin.
Les indicateurs de dispersion de chacune des deux séries sont ceux du chapitre de statistiques univariées, et ils resservent tels quels.
Propriété
Rappels de statistique à une variable. Pour la série , la variance empirique et l'écart-type empirique sont
La seconde écriture est la formule de Kœnig-Huygens : la variance est la moyenne des carrés moins le carré de la moyenne. On définit de même et .
Dans une étude bivariée, les deux variables ne jouent presque jamais le même rôle.
Définition
Lorsque l'on cherche à décrire à partir de , on dit que est la variable explicative et que est la variable à expliquer. Par convention, la variable explicative se porte en abscisse et la variable à expliquer en ordonnée.
Ce choix relève de la modélisation, pas du calcul : c'est l'économiste qui décide que la dépense publicitaire explique les ventes, et non l'inverse. Il n'est pas neutre, et l'étude des moindres carrés montrera qu'échanger les deux rôles change la droite obtenue.
Exemple
L'exemple filé du chapitre. Une entreprise relève, sur cinq exercices comptables, sa dépense de publicité et son chiffre d'affaires , tous deux en milliers d'euros.
| Année | |||||
|---|---|---|---|---|---|
| Publicité | |||||
| Ventes |
Ici , la variable explicative est et la variable à expliquer est . Les moyennes valent
donc le point moyen est . Pour les variances, on passe par Kœnig-Huygens :
Les deux séries ont donc la même dispersion, . C'est cette série que l'on retrouvera à chaque étape de la partie 1, et qui est représentée sur la figure ci-dessus.
Covariance empirique
La variance mesure la dispersion d'une série. La covariance mesure la façon dont deux séries varient ensemble.
Définition
La covariance empirique de la série double est le réel
Trois remarques immédiates. D'abord, la covariance est symétrique : , puisque le produit de deux réels ne dépend pas de leur ordre. Ensuite, en prenant , on retrouve la variance :
La covariance généralise donc la variance. Enfin, contrairement à une variance, une covariance peut être négative : c'est même toute son utilité.
Propriété
Formule de Kœnig-Huygens pour la covariance.
Autrement dit : la moyenne des produits moins le produit des moyennes.
Démonstration. Développons le produit à l'intérieur de la somme, en gardant à l'esprit que et sont des constantes vis-à-vis de l'indice :
On a utilisé successivement la linéarité de la somme finie, les définitions et , et le fait qu'une somme de termes tous égaux à la constante vaut .
C'est cette seconde écriture qu'il faut utiliser pour tout calcul numérique : elle ne demande qu'une ligne de produits dans le tableau, alors que la définition oblige à soustraire les deux moyennes à chacune des données, ce qui multiplie les occasions de se tromper.
Propriété
Signe de la covariance. Le signe de indique le sens de la liaison :
- : le nuage est globalement croissant, les grandes valeurs de vont avec les grandes valeurs de ;
- : le nuage est globalement décroissant ;
- : il n'y a pas de tendance linéaire dominante.
La lecture graphique se fait en partageant le plan en quatre quadrants par les droites d'équations et , qui se coupent au point moyen . Un point situé en haut à droite ou en bas à gauche de a ses deux écarts de même signe, donc son produit est positif. Un point situé en haut à gauche ou en bas à droite a ses deux écarts de signes contraires, donc un produit négatif. La covariance est la moyenne de ces produits : son signe dit simplement quels quadrants l'emportent.
Propriété
Effet d'un changement d'unité. Soient , , , quatre réels. Posons et pour tout . Alors
Démonstration. La moyenne d'une série transformée de façon affine se transforme de la même façon : , résultat démontré au chapitre de statistiques univariées. Par conséquent, pour tout indice ,
et de même : les constantes additives disparaissent. En reportant dans la définition de la covariance,
Le cas de la variance s'obtient en prenant , et , ce qui donne , puis car un écart-type est positif.
Deux conséquences pratiques. D'une part, translater les données ne change pas la covariance : changer l'origine des années ou retrancher une constante à toutes les valeurs est donc gratuit, et c'est un allègement de calcul très utile. D'autre part, la covariance dépend des unités : exprimer une dépense en euros plutôt qu'en milliers d'euros la multiplie par . Un nombre qui change quand on change d'unité ne peut pas servir à mesurer l'intensité d'une liaison, et c'est précisément ce défaut que le coefficient de corrélation va corriger.
Exemple
Covariance de l'exemple filé. Calculons-la des deux façons, pour vérifier la formule.
Par la définition. Les écarts à la moyenne valent, dans l'ordre des cinq années,
Les produits sont donc , , , , , de somme , d'où .
Par Kœnig-Huygens. On calcule la ligne des produits :
puis
Les deux méthodes concordent. La covariance est positive : les années de forte dépense publicitaire sont plutôt les années de fort chiffre d'affaires.
Changement d'unité. Si l'on exprimait la publicité en euros, c'est-à-dire , la covariance deviendrait , sans que la liaison ait changé d'un iota. Le nombre n'a donc, à lui seul, aucune signification intrinsèque.
Coefficient de corrélation linéaire empirique
Définition
Lorsque et , le coefficient de corrélation linéaire empirique de la série double est le réel
L'hypothèse signifie que les ne sont pas tous égaux, faute de quoi le nuage serait aligné verticalement et la question d'une tendance n'aurait aucun sens. Le quotient est construit pour être sans unité : au numérateur comme au dénominateur, on multiplie par quand on change d'unité, et tout se simplifie.
Propriété
Encadrement. Pour toute série statistique double dont les deux écarts-types sont non nuls,
Démonstration. Considérons la fonction définie sur par
C'est une moyenne de carrés, donc pour tout réel . Développons chaque carré :
Comme , la fonction est un trinôme du second degré en , de coefficient dominant strictement positif, et qui reste positif ou nul sur tout entier. Un tel trinôme ne peut pas avoir deux racines distinctes, donc son discriminant est négatif ou nul :
c'est-à-dire . En prenant la racine carrée des deux membres, qui sont positifs, il vient , puis, en divisant par le réel strictement positif ,
ce qui est exactement l'encadrement annoncé.
Propriété
Cas d'égalité. On a si, et seulement si, les points du nuage sont alignés sur une droite non verticale. Cette droite passe alors par le point moyen , et sa pente a le signe de .
Démonstration. Sens direct. Supposons , c'est-à-dire . Le discriminant du trinôme ci-dessus est alors nul, donc admet une racine double
Or est une somme de carrés divisée par : une somme de réels positifs est nulle si, et seulement si, chacun de ses termes l'est. Donc, pour tout indice ,
Tous les points appartiennent donc à la droite d'équation , qui passe visiblement par et dont la pente a le signe de , donc celui de .
Réciproque. Supposons les points alignés sur une droite non verticale, d'équation avec (si tous les sont égaux et , cas exclu par la définition de ). Alors pour tout , donc, d'après la propriété de changement d'unité vue plus haut, appliquée avec , , et ,
Il vient alors
Propriété
Invariance par changement d'unité. Avec les notations du changement d'unité ci-dessus, si et , alors
c'est-à-dire si , et si .
Démonstration. Il suffit de reporter les trois formules du changement d'unité dans la définition :
Le coefficient de corrélation est donc insensible aux unités et aux origines choisies : c'est ce qui en fait un indicateur comparable d'une étude à l'autre, là où la covariance ne l'est pas.
Propriété
Interprétation pratique. Le coefficient mesure l'intensité de la liaison linéaire entre les deux séries, et rien d'autre.
- proche de : forte liaison linéaire croissante, le nuage est resserré autour d'une droite de pente positive.
- proche de : forte liaison linéaire décroissante.
- proche de : pas de liaison linéaire décelable. Cela n'exclut nullement une liaison d'une autre nature.
En économie, on considère usuellement qu'un ajustement affine mérite d'être tenté lorsque , sans que ce seuil ait la moindre valeur théorique : c'est une convention d'usage, pas un théorème.
La figure ci-dessus rassemble quatre nuages à lire ensemble. Le premier, de coefficient , montre des points presque alignés sur une droite croissante : l'ajustement affine y sera excellent. Le deuxième, de coefficient , montre une tendance croissante réelle mais noyée dans la dispersion : la droite existe, elle résume mal. Le quatrième, de coefficient , est le symétrique du premier pour une liaison décroissante.
Le troisième panneau est le plus instructif, et il faut le regarder longuement. Son coefficient vaut , et pourtant ses points sont exactement sur une parabole : la connaissance de y détermine complètement . La liaison est donc totale, mais elle n'est pas linéaire, et les contributions positives et négatives à la covariance se compensent. Retenez la formulation exacte : un coefficient de corrélation nul signifie « pas de liaison linéaire », jamais « pas de liaison ». C'est la raison pour laquelle on trace toujours le nuage avant de calculer quoi que ce soit.
Propriété
Corrélation n'est pas causalité. Une forte corrélation entre deux séries n'autorise à conclure ni que agit sur , ni que agit sur .
Trois explications concurrentes doivent toujours être envisagées devant une corrélation forte.
La première est la variable cachée, qui agit sur les deux séries à la fois. Le nombre de pompiers dépêchés sur un sinistre et le montant des dégâts constatés sont fortement corrélés positivement, ce qui ne signifie évidemment pas que les pompiers causent les dégâts : la variable cachée est l'ampleur de l'incendie, qui commande à la fois l'un et l'autre.
La deuxième est la causalité inversée. Une corrélation positive entre l'effectif commercial d'une entreprise et son chiffre d'affaires peut aussi bien s'expliquer par le fait que les entreprises qui vendent beaucoup ont les moyens d'embaucher que par l'effet des embauches sur les ventes.
La troisième est la coïncidence, d'autant plus fréquente que est petit. Sur cinq observations, il n'est pas rare d'obtenir un coefficient supérieur à entre deux séries sans aucun rapport.
En économie, cette prudence est la règle. La loi d'Okun, par exemple, décrit une relation négative observée entre la croissance du produit intérieur brut et la variation du taux de chômage : quand la croissance accélère, le chômage a tendance à reculer. C'est une régularité empirique robuste, ajustée par une droite dans tous les manuels, mais l'ajustement à lui seul ne démontre aucun mécanisme économique : c'est la théorie qui l'interprète, pas le calcul.
Exemple
Corrélation de l'exemple filé. On a déjà obtenu et , donc et . D'où
Le coefficient est proche de : la liaison linéaire croissante est forte, et un ajustement affine est légitime. Notons que n'est pas égal à : les cinq points ne sont donc pas alignés, ce que la figure confirme.
Ajustement affine par la méthode des moindres carrés
Une fois admis que le nuage suit une tendance rectiligne, il faut choisir une droite parmi toutes celles qui traversent le nuage. Le critère retenu est celui des moindres carrés.
Définition
Soit la droite d'équation . Pour chaque individu , on appelle résidu l'écart vertical
entre la valeur observée et la valeur prédite par la droite. La somme des carrés des résidus est
La droite de régression de en , ou droite des moindres carrés, est la droite qui rend minimale.
Deux précisions sur ce choix, qui n'a rien d'arbitraire. On mesure les écarts verticalement, et non perpendiculairement à la droite, parce que le but est de prédire connaissant : c'est l'erreur de prédiction sur que l'on veut rendre petite. Et on les élève au carré, plutôt que de prendre leur valeur absolue, pour deux raisons : les carrés empêchent une erreur positive de compenser une erreur négative, et surtout ils conduisent à un problème de minimisation que l'on sait résoudre exactement, avec des trinômes du second degré.
Propriété
Théorème des moindres carrés. On suppose . La fonction admet un minimum, atteint en un unique couple , donné par
La droite de régression de en a donc pour équation
De plus, la valeur minimale de vaut .
Démonstration. La fonction dépend de deux variables. La méthode consiste à fixer l'une des deux et à minimiser en l'autre, ce qui ramène le problème à deux minimisations de trinômes du second degré, faisables séparément.
Première étape : on fixe et l'on minimise en . Posons, pour chaque indice , . La moyenne de cette série vaut , par linéarité de la moyenne. On a alors
À fixé, c'est un trinôme du second degré en , de coefficient dominant : il admet donc un minimum, atteint en
La valeur de ce minimum se calcule directement :
où désigne la variance empirique de la série . Notons cette valeur, qui ne dépend plus que de .
Deuxième étape : on exprime . Comme , on obtient en développant le carré
Ainsi .
Troisième étape : on minimise . C'est encore un trinôme du second degré, en cette fois, de coefficient dominant puisque . Il admet donc un minimum, atteint en
Conclusion. Notons et . Pour tout couple de réels, la première étape donne , et la troisième donne . Donc
ce qui prouve que le minimum est bien atteint en . L'unicité vient de ce que chacun des deux trinômes atteint son minimum en un unique point.
Valeur du minimum. En remplaçant par dans l'expression de :
Propriété
La droite de régression passe par le point moyen. Le point appartient à la droite de régression de en .
Démonstration. L'ordonnée du point de la droite d'abscisse vaut . Or par le théorème, donc cette ordonnée vaut . Le point de coordonnées , c'est-à-dire , est donc bien sur la droite.
C'est le contrôle le plus rapide d'un calcul d'ajustement : si l'on remplace par dans l'équation trouvée et que l'on n'obtient pas , il y a une erreur, et elle est en général dans .
Propriété
Interprétation de . La somme minimale des carrés des résidus vaut . Elle est donc nulle si et seulement si , et d'autant plus petite que est proche de . Le nombre s'interprète comme la part de la dispersion de que l'ajustement restitue.
Ce résultat éclaire d'un coup les deux paragraphes précédents. Le coefficient de corrélation ne mesure pas seulement une impression visuelle : son carré quantifie exactement la qualité du meilleur ajustement affine possible. Avec , on a : l'ajustement restitue de la dispersion de , et il en laisse dans les résidus.
Propriété
L'autre droite de régression. En échangeant les rôles des deux variables, c'est-à-dire en minimisant , on obtient la droite de régression de en , d'équation avec
Les deux droites de régression passent toutes deux par le point moyen , mais elles sont distinctes en général. Leurs pentes vérifient
et elles sont confondues si, et seulement si, .
Démonstration. La formule donnant et s'obtient en appliquant le théorème des moindres carrés à la série double , c'est-à-dire en échangeant partout les rôles de et de , la covariance étant symétrique. Pour le produit des pentes,
Enfin, la seconde droite s'écrit lorsque , et sa pente vue dans le repère habituel est . Les deux droites, qui ont déjà un point commun , sont confondues si et seulement si elles ont la même pente, c'est-à-dire , soit , soit .
Reste le cas écarté , c'est-à-dire : la seconde droite est alors la verticale et la première l'horizontale . Elles sont distinctes, et donc : l'équivalence est encore vérifiée.
Il n'y a là aucun paradoxe : les deux droites répondent à deux questions différentes. La première minimise les écarts verticaux parce qu'elle sert à prédire ; la seconde minimise les écarts horizontaux parce qu'elle sert à prédire . Vues dans le repère habituel, leurs pentes valent et , et, lorsque , leur quotient vaut : la droite de régression de en est donc toujours plus redressée vers la verticale que celle de en , et l'écart entre les deux est d'autant plus visible que l'ajustement est mauvais. En pratique, on n'utilise que la droite de régression de la variable à expliquer en la variable explicative, et l'énoncé précise toujours laquelle est laquelle.
Exemple
Ajustement de l'exemple filé. Les cinq quantités nécessaires sont déjà calculées : , , , et .
Coefficients.
La droite de régression du chiffre d'affaires en la dépense publicitaire a donc pour équation
Contrôle par le point moyen. Pour , on trouve . Le point est bien sur la droite.
Résidus. Les valeurs ajustées valent successivement ; ; ; ; , d'où les résidus
Leur somme est nulle, ce qui est une propriété générale de la droite des moindres carrés et un bon contrôle de calcul. Leur somme des carrés vaut
ce que la formule du théorème confirme : .
Interprétation. La pente signifie qu'à chaque millier d'euros supplémentaire investi en publicité correspond, en moyenne sur la période, un chiffre d'affaires supérieur de millier d'euros. Une prévision pour une dépense de milliers d'euros donnerait
prévision à prendre avec prudence : est en dehors de l'intervalle des dépenses observées, qui s'arrête à .
L'autre droite. La droite de régression de en a pour coefficients
soit . Réécrite en , elle devient , de pente . Les deux droites sont bien distinctes, et leur produit de pentes vaut . Elles se coupent en : pour , la seconde donne .
Pertinence d'un ajustement et pré-transformations
Le calcul des moindres carrés produit toujours une droite, même quand le nuage n'en réclame aucune : les formules ne protègent de rien. La question de la pertinence se pose donc avant, et elle se tranche en regardant le nuage.
Propriété
Avant d'ajuster, on discute. Trois vérifications précèdent tout calcul de régression.
- L'allure du nuage. Les points suivent-ils une tendance rectiligne, ou une courbe nettement incurvée ? Un nuage en forme d'arc, de cloche ou de « J » ne s'ajuste pas par une droite.
- Les points aberrants. Une seule observation très éloignée des autres peut à elle seule fabriquer une corrélation forte, ou au contraire en détruire une. On la repère à l'oeil et l'on s'interroge sur son origine.
- La valeur de . Elle ne vient qu'en dernier, et elle ne dispense jamais du tracé : le troisième panneau de la figure des quatre nuages montre un lien parfait avec , et un nuage nettement courbé peut donner un élevé.
Une dernière mise en garde concerne l'usage de la droite obtenue. Interpoler, c'est-à-dire prédire pour une valeur de située à l'intérieur de la plage observée, est raisonnable. Extrapoler loin de cette plage ne l'est pas : rien ne garantit que la tendance se prolonge, et l'exemple filé n'autorise aucune prédiction pour une dépense publicitaire de milliers d'euros.
Lorsque le nuage est visiblement courbé, tout n'est pas perdu. Souvent, une transformation bien choisie des données redresse le nuage, et il suffit alors d'appliquer la méthode des moindres carrés aux données transformées.
Propriété
Ajustement exponentiel. Le modèle , avec , équivaut, en posant (ce qui suppose ), au modèle affine
Le nuage des points est donc quasi rectiligne si et seulement si le nuage initial suit une croissance de type exponentiel.
Démonstration. Comme et que l'exponentielle est strictement positive, entraîne , et l'on peut prendre le logarithme des deux membres. La relation fonctionnelle et donnent
Réciproquement, si avec , alors en composant par l'exponentielle, qui est strictement croissante sur , on retrouve .
Propriété
Ajustement puissance. Le modèle , avec et , équivaut, en posant et , au modèle affine
Démonstration. Pour , on a par définition , donc . En prenant le logarithme comme ci-dessus, , c'est-à-dire . La réciproque s'obtient en composant par l'exponentielle.
Dans les deux cas, la démarche est la même : on transforme, on ajuste dans le monde transformé, puis on revient au modèle initial en appliquant l'exponentielle. Le point délicat est le retour : le coefficient directeur de la droite ajustée donne directement , mais l'ordonnée à l'origine donne , et il faut encore l'exponentier pour obtenir .
Méthode
Conduire une pré-transformation. Le protocole ne varie pas.
- Choisir la transformation au vu du nuage : croissance de plus en plus rapide et , on essaie ; croissance qui s'infléchit avec et , on essaie , éventuellement les deux.
- Construire le tableau transformé en ajoutant une ligne. Les valeurs des logarithmes sont fournies par l'énoncé, arrondies : on les recopie sans chercher à les recalculer.
- Vérifier que le nuage transformé est rectiligne, à l'oeil ou par le coefficient de corrélation des données transformées.
- Appliquer les moindres carrés aux données transformées, exactement comme pour un ajustement affine ordinaire.
- Revenir au modèle initial. Dans les deux cas, la droite ajustée s'écrit où désigne pour l'exponentiel et pour la puissance. La pente donne directement l'exposant, , et l'ordonnée à l'origine donne , donc . Ne pas oublier cette dernière exponentielle est l'erreur classique.
- Interpréter dans les bonnes unités, et rappeler que le modèle est ajusté sur les données transformées, donc que les résidus qu'il minimise sont ceux de , pas ceux de .
Exemple
Ajustement exponentiel d'un chiffre d'affaires. Une jeune entreprise relève son chiffre d'affaires annuel , en millions d'euros, en fonction du rang de l'année . L'énoncé fournit les logarithmes , arrondis au centième.
| Rang | |||||
|---|---|---|---|---|---|
Le nuage des est nettement incurvé vers le haut : les accroissements annuels valent ; ; ; , et le dernier est plus de quatre fois le premier. Un ajustement affine direct serait mal choisi. En revanche, les accroissements de valent ; ; ; , ils sont du même ordre : le nuage transformé est bien rectiligne.
Ajustement de en . On calcule les moyennes, puis Kœnig-Huygens :
D'où les coefficients de la droite de régression de en :
soit .
Retour au modèle initial. On a , donc . Avec les valeurs fournies et , le modèle s'écrit
Interprétation. Le chiffre d'affaires est modélisé par une croissance d'environ par an à partir d'une valeur initiale d'environ million d'euros, ce qui est cohérent avec la première observation . Pour , le modèle prédit millions d'euros, prévision qui suppose que le rythme de croissance se maintienne, hypothèse économiquement forte.
Exemple
Reconnaître un modèle puissance. Une étude relie la surface d'un local, en dizaines de mètres carrés, à son coût d'aménagement , en milliers d'euros. L'énoncé fournit et , arrondis au centième.
Le nuage des croît beaucoup plus vite qu'une droite. Regardons celui des : les pentes entre points consécutifs valent
Elles sont toutes voisines de : les points transformés sont alignés, aux arrondis près, sur une droite de pente et d'ordonnée à l'origine , c'est-à-dire . Le modèle est donc
On vérifie sur la dernière observation : , ce qui est exactement la valeur relevée. Économiquement, un exposant supérieur à signale un coût qui croît plus que proportionnellement à la surface.
Conduire un ajustement affine : la méthode
Méthode
Les cinq étapes d'un ajustement affine. Elles se déroulent toujours dans cet ordre, et chacune se rédige.
- Tracer le nuage et décider si un ajustement affine a un sens. Repérer la variable explicative (en abscisse) et la variable à expliquer (en ordonnée). Si le nuage est courbé, passer par une pré-transformation.
- Calculer les moyennes et , qui donnent le point moyen . Contrôler qu'elles tombent bien au milieu des données.
- Compléter le tableau avec les trois lignes , et , puis en faire les sommes. C'est la seule étape calculatoire, et elle se mène en colonnes, jamais de tête.
- Appliquer Kœnig-Huygens trois fois :
puis calculer et le commenter en une phrase. 5. Calculer puis , écrire l'équation , et contrôler que le point moyen la vérifie.
Trois contrôles finaux, à faire systématiquement. Le signe de doit être celui de et celui de . La valeur doit être inférieure ou égale à : un « » signale une erreur de calcul, presque toujours dans une variance. Enfin, toute prévision demandée doit être accompagnée d'une phrase de prudence si la valeur sort de la plage observée.
Couples de variables aléatoires discrètes
On change de monde. Les données observées disparaissent, remplacées par un modèle : deux variables aléatoires discrètes et définies sur le même espace probabilisé . C'est ce « même espace » qui donne un sens à des écritures comme , et donc à tout ce chapitre : deux variables définies sur deux expériences sans rapport ne forment pas un couple.
Conformément au programme, aucune difficulté ne sera soulevée sur les sommes indexées par des ensembles dénombrables : les interversions de sommations et les regroupements de termes sont admis.
Loi conjointe d'un couple
Définition
Soient et deux variables aléatoires discrètes définies sur le même espace probabilisé, avec et .
La loi conjointe du couple est la donnée de , de et, pour tout couple , du réel
que l'on note aussi .
Lorsque et sont finis, la loi conjointe se présente dans un tableau à double entrée : une ligne par valeur de , une colonne par valeur de , et dans la case la probabilité .
Propriété
Les réels vérifient
Démonstration. La positivité est immédiate : chaque est la probabilité d'un événement. Pour la somme, considérons la famille des événements
Ces événements sont deux à deux incompatibles : si , alors ou , et une même issue ne peut pas donner deux valeurs différentes à ou deux valeurs différentes à . Leur réunion est tout entier : quelle que soit l'issue , le réel est l'un des et le réel est l'un des , donc appartient à l'un des . La famille est donc un système complet d'événements, et la somme de ses probabilités vaut .
Cette égalité est la vérification obligatoire de tout tableau de loi conjointe : la somme de toutes les cases doit valoir . Une erreur de calcul se détecte là, avant de propager la faute dans les cinq questions suivantes.
Exemple
Un panel de ménages. Un institut interroge ménages. Pour chacun, il relève le nombre de véhicules et le nombre d'enfants , chacun valant , ou . Les effectifs relevés sont les suivants : , , pour la première ligne, , , pour la deuxième, , , pour la troisième. On choisit au hasard un ménage du panel, chacun ayant la même probabilité d'être choisi. En divisant chaque effectif par , on obtient la loi conjointe du couple :
Vérification : la somme des neuf cases vaut
On lit directement, par exemple, : des ménages du panel ont un véhicule et deux enfants.
Lois marginales
Le tableau contient bien plus que le comportement de chaque variable prise isolément, mais il le contient aussi, et l'on récupère celui-ci en sommant.
Définition
Les lois marginales du couple sont les lois de et de prises séparément. On note
Propriété
Obtention des marginales. Pour tous et ,
Dans le tableau à double entrée : la loi de s'obtient en sommant chaque ligne, la loi de en sommant chaque colonne.
Démonstration. Traitons la loi de , l'autre s'obtenant en échangeant les rôles. La famille est un système complet d'événements : deux valeurs distinctes de s'excluent, et toute issue donne à l'une des valeurs de . La formule des probabilités totales appliquée à l'événement et à ce système complet donne
En pratique, on borde le tableau d'une colonne « total » à droite et d'une ligne « total » en bas : la colonne porte la loi de , la ligne porte la loi de , et la case du coin doit contenir . Ces sommes écrites dans la marge du tableau expliquent le mot « marginale ».
Exemple
Marginales du panel. On borde le tableau précédent.
| Loi de | ||||
|---|---|---|---|---|
| Loi de |
On lit la loi de dans la dernière colonne et celle de dans la dernière ligne, et les deux totaux valent . Les espérances s'en déduisent :
Le panel compte donc en moyenne véhicule et enfant par ménage.
Vient maintenant le point le plus important du paragraphe, et l'une des idées maîtresses du chapitre.
Propriété
Les lois marginales ne déterminent pas la loi conjointe. Deux couples peuvent avoir exactement les mêmes lois marginales sans avoir la même loi conjointe. Autrement dit, on passe de la loi conjointe aux marginales, mais jamais des marginales à la conjointe.
Démonstration. Il suffit d'exhiber deux couples. Considérons les deux lois conjointes suivantes, pour deux couples et à valeurs dans .
| Loi de | |||
|---|---|---|---|
| Loi de |
| Loi de | |||
|---|---|---|---|
| Loi de |
Les deux tableaux ont pour somme , donc définissent bien deux lois conjointes. Leurs marges sont identiques : et suivent la même loi, donnée par et , et et également, données par et . Pourtant les tableaux diffèrent, par exemple alors que .
La morale est à retenir mot pour mot : connaître la loi de et la loi de ne suffit pas à connaître la loi du couple. Il manque exactement l'information sur la façon dont les deux variables sont liées. Le second tableau ci-dessus est d'ailleurs celui de l'unique couple indépendant ayant ces marges, puisque chaque case y est le produit des deux marges correspondantes, par exemple . Le premier ne l'est pas. Conséquence pratique immédiate : une question du type « calculer » n'a aucune réponse tant que l'énoncé ne donne pas la loi conjointe ou une hypothèse d'indépendance.
Lois conditionnelles
Définition
Soit tel que . La loi conditionnelle de sachant est la famille des réels
pour décrivant . On définit de même la loi conditionnelle de sachant lorsque .
Sur le tableau, la lecture est simple : la loi conditionnelle de sachant s'obtient en prenant la colonne numéro et en divisant chacune de ses cases par son total.
Propriété
Pour tout tel que , la loi conditionnelle de sachant est bien une loi de probabilité : ses termes sont positifs et leur somme vaut .
Démonstration. Chaque terme est un quotient de deux réels positifs, donc il est positif. Pour la somme,
en utilisant la formule des marginales établie plus haut.
Propriété
Reconstruction de la loi conjointe. Pour tous et tels que ,
Démonstration. C'est la formule des probabilités composées, ou simplement la définition d'une probabilité conditionnelle multipliée par .
Cette égalité est la clé des énoncés qui se déroulent en deux temps, et ils sont très nombreux : un premier tirage détermine un paramètre, un second se déroule sachant ce paramètre. L'énoncé donne alors la loi de la première variable et les lois conditionnelles de la seconde, et c'est à vous de reconstituer la loi conjointe.
Méthode
Construire une loi conjointe donnée en deux temps.
- Identifier la variable « meneuse », celle dont la loi est donnée sans condition, souvent le résultat de la première étape.
- Écrire les lois conditionnelles fournies par l'énoncé, en précisant pour quelles valeurs elles ont un sens. Une phrase du type « sachant que , la variable suit la loi » se traduit par .
- Multiplier : .
- Remplir le tableau en faisant attention aux cases impossibles, qui valent (par exemple ).
- Contrôler que la somme de toutes les cases vaut , puis sommer les colonnes pour obtenir la loi marginale cherchée.
Exemple
Une boutique et ses clients. Le nombre de clients entrant dans une boutique pendant une heure suit la loi uniforme sur . Chaque client achète, indépendamment des autres, avec la probabilité . On note le nombre d'acheteurs.
Sachant , la variable compte les succès de épreuves indépendantes de probabilité , donc pour . Comme pour , la formule de reconstruction donne le tableau suivant.
Détaillons deux cases. Pour et : . Pour et : . Les cases telles que sont nulles : on ne peut pas avoir plus d'acheteurs que de clients.
La somme de chaque ligne vaut , et le total vaut . En sommant les colonnes, on obtient la loi marginale de :
Ces quatre nombres ont bien pour somme , et
Réciproquement, on peut lire une loi conditionnelle « dans l'autre sens » : sachant , seule la ligne est possible, donc . Trois acheteurs imposent trois clients.
Loi d'une variable
Définition
Soient un couple de variables aléatoires discrètes et une fonction de deux variables réelles. On note la variable aléatoire qui, à l'issue , associe le réel .
Les deux cas au programme sont et , mais la méthode est la même pour , , ou n'importe quelle autre expression.
Méthode
Déterminer la loi de .
- Déterminer : parcourir tous les couples possibles, calculer , et retenir l'ensemble des valeurs obtenues. Ne pas oublier de retirer les couples de probabilité nulle.
- Regrouper. Pour chaque valeur de , repérer tous les couples tels que . Sur un tableau, ils forment un paquet de cases : les diagonales pour la somme, les hyperboles pour le produit.
- Additionner les probabilités de ces cases :
ce qui est licite car les événements réunis sont deux à deux incompatibles. 4. Contrôler que la somme des vaut .
Exemple
Somme sur le panel de ménages. Reprenons le tableau du panel de ménages et posons , le nombre total de véhicules et d'enfants d'un ménage. Les valeurs possibles sont , , , et . On regroupe par diagonales :
Contrôle : . L'espérance vaut
et l'on remarque que . Le paragraphe suivant montre que ce n'est pas une coïncidence.
Exemple
L'exemple filé de la partie 2 : deux tirages sans remise. Une urne contient trois jetons numérotés , et . On en tire deux, successivement et sans remise. On note le numéro du premier jeton et celui du second.
L'univers naturel est l'ensemble des couples ordonnés de jetons distincts, il compte éléments équiprobables. Donc si , et puisqu'un même jeton ne peut pas sortir deux fois.
| Loi de | ||||
|---|---|---|---|---|
| Loi de |
Les deux marginales sont uniformes sur , donc
Loi de . Les valeurs possibles sont , et , obtenues chacune par deux cases de probabilité :
La somme suit donc la loi uniforme sur , d'où et , puis .
Loi de . Les produits possibles sont , et , chacun obtenu par deux cases :
Notons dès maintenant que alors que : ces deux nombres sont différents, ce qui sera interprété par la covariance.
Théorème de transfert et linéarité de l'espérance
Propriété
Théorème de transfert pour un couple (admis). Soient un couple de variables aléatoires discrètes et une fonction de deux variables. Sous réserve de convergence absolue, la variable admet une espérance et
L'intérêt est le même qu'à une variable : on calcule l'espérance de sans déterminer la loi de . En particulier, pour le produit,
Comme tout le programme, ce théorème est admis, et les questions de convergence ne seront jamais soulevées : dans les exercices, toutes les espérances rencontrées existent.
Propriété
Linéarité de l'espérance. Soient et deux variables aléatoires discrètes admettant une espérance, et , deux réels. Alors admet une espérance et
Aucune hypothèse d'indépendance n'est requise.
Démonstration. Appliquons le théorème de transfert à la fonction :
On a séparé la somme en deux, puis, dans chaque morceau, factorisé par le terme qui ne dépend pas de l'indice de sommation intérieur, et enfin reconnu les lois marginales. Les interversions et regroupements sont licites, comme le programme l'admet.
Cette propriété est la plus utilisée de tout le chapitre, et sa force tient entièrement à l'absence d'hypothèse. Deux variables peuvent être liées de la façon la plus tordue, leurs espérances s'ajoutent quand même. L'exemple du panel l'illustrait déjà : les variables et y sont clairement dépendantes, et pourtant .
Exemple
Vérification sur l'exemple filé. Avec les deux tirages sans remise, , donc la linéarité annonce . Or on a calculé directement au paragraphe précédent, en passant par la loi de . Les deux méthodes concordent, mais la première tient en une ligne.
En revanche, le produit ne se comporte pas ainsi : on a trouvé alors que . Il n'existe aucune « linéarité du produit », et l'égalité demandera une hypothèse supplémentaire.
Indépendance de deux variables aléatoires
Définition
Deux variables aléatoires discrètes et , définies sur le même espace probabilisé, sont indépendantes lorsque, pour tout couple ,
Avec les notations du tableau : pour tous et .
Autrement dit, et sont indépendantes exactement lorsque la loi conjointe se reconstruit à partir des deux marginales. C'est le seul cas où l'information des marges suffit, et cela éclaire rétrospectivement le contre-exemple des deux tableaux de mêmes marges : les deux tableaux y avaient les mêmes marges, mais un seul était le tableau des produits.
Propriété
Caractérisation par les lignes du tableau. et sont indépendantes si, et seulement si, toutes les lignes du tableau de la loi conjointe sont proportionnelles entre elles, c'est-à-dire s'il existe des réels et tels que pour tous et .
Démonstration. Sens direct. Si et sont indépendantes, alors , ce qui est la forme voulue avec et : la ligne numéro est la liste des multipliée par le coefficient .
Réciproque. Supposons pour tous et . Posons et . En sommant sur puis sur :
Par conséquent
ce qui est la définition de l'indépendance.
Ce critère est un accélérateur de lecture : sur un tableau numérique, deux lignes visiblement non proportionnelles suffisent à conclure à la dépendance, sans calculer la moindre marge.
Méthode
Prouver ou réfuter l'indépendance de deux variables.
Pour réfuter, ce qui est le cas le plus fréquent : il suffit d'un seul couple pour lequel . On choisit le plus simple à calculer, très souvent une case nulle du tableau dont les deux marges ne le sont pas. On rédige : « or alors que , donc et ne sont pas indépendantes ».
Pour prouver l'indépendance, il faut au contraire vérifier l'égalité pour tous les couples, sans exception. Deux voies : soit le tableau est petit et l'on vérifie les cases une à une, soit l'énoncé la donne comme hypothèse de modélisation (« les lancers sont indépendants », « les deux ateliers fonctionnent indépendamment »), et l'on s'appuie dessus en le disant.
Interdit : conclure à l'indépendance parce que « les deux variables n'ont rien à voir ». Ce n'est pas un argument mathématique, et cela ne vaut aucun point.
Exemple
a. Les deux tirages sans remise ne sont pas indépendants. Sur le tableau des deux tirages sans remise, on lit , alors que
Un seul couple suffit : et ne sont pas indépendantes. C'était prévisible, le premier tirage retirant un jeton de l'urne.
b. Le panel de ménages non plus. On a , alors que . Les deux nombres diffèrent, donc le nombre de véhicules et le nombre d'enfants ne sont pas indépendants dans ce panel.
c. Un cas d'indépendance. On lance deux dés équilibrés et l'on note et les résultats. Pour tout , l'équiprobabilité sur les couples donne
L'égalité vaut pour les couples, donc et sont indépendantes.
Propriété
Espérance du produit (admis). Si et sont indépendantes et admettent chacune une espérance, alors admet une espérance et
Le programme admet ce résultat. Il n'est pourtant pas mystérieux : le théorème de transfert donne , et sous l'hypothèse d'indépendance , ce qui permet de factoriser la somme double en un produit de deux sommes simples,
La seule chose réellement admise est donc la licéité de ces manipulations dans le cas infini.
Attention à la réciproque, qui est fausse. L'égalité peut se produire sans indépendance, et le contre-exemple est donné plus loin, avec la covariance.
Propriété
Fonctions de variables indépendantes (admis). Si et sont indépendantes, alors pour toutes fonctions et , les variables et sont encore indépendantes.
C'est un cas particulier du lemme des coalitions, énoncé dans la partie 3. On l'utilise sans cesse et sans y penser : si et sont indépendantes, alors et le sont, et aussi, et par conséquent, par exemple, .
Loi du minimum et du maximum
Le minimum et le maximum de deux variables se traitent par une technique spécifique : on ne cherche pas directement , on passe par des événements de la forme et , qui se traduisent immédiatement en intersections.
Propriété
Les deux traductions fondamentales. Pour toutes variables aléatoires et et tout réel :
Démonstration. Soit une issue. Dire que , c'est dire que le plus petit des deux nombres dépasse , donc que les deux le dépassent : c'est exactement et . Réciproquement, si les deux dépassent , leur minimum aussi. Les deux événements ont donc les mêmes issues. Le raisonnement pour le maximum est identique : le plus grand des deux est inférieur ou égal à si, et seulement si, les deux le sont.
Ces deux égalités ne demandent aucune hypothèse. C'est ensuite, pour transformer la probabilité de l'intersection en produit, que l'indépendance intervient.
Méthode
Déterminer la loi de ou de , pour et indépendantes à valeurs entières.
- Choisir le bon événement : pour le minimum, on travaille avec ; pour le maximum, avec . C'est le seul choix qui fait apparaître une intersection.
- Traduire grâce aux deux égalités ci-dessus, puis utiliser l'indépendance pour transformer la probabilité de l'intersection en produit.
- Calculer ou pour chacune des deux variables, à partir de leur loi.
- Revenir à la loi par différence d'événements emboîtés :
- Contrôler que les probabilités obtenues sont positives et de somme , ou reconnaître une loi usuelle.
L'étape 4 mérite une justification, faite une fois pour toutes. Si est à valeurs entières, l'événement est la réunion des deux événements incompatibles et , d'où et la formule annoncée. De même est la réunion de et de .
Exemple
Le minimum de deux lois géométriques. Soient et indépendantes, avec et dans . Posons . Montrons que
Étape 1 : la probabilité de dépasser . La variable est le rang du premier succès dans une suite d'épreuves indépendantes de probabilité . Pour tout entier , l'événement signifie que les premières épreuves ont échoué, donc
On peut aussi le retrouver par le calcul, en sommant la série géométrique :
De même .
Étape 2 : le minimum. Pour tout entier , la traduction puis l'indépendance donnent
Posons , de sorte que . Comme et appartiennent à , le produit appartient lui aussi à , donc : c'est bien un paramètre de loi géométrique. On a obtenu
Étape 3 : la loi. La variable est à valeurs dans , comme minimum de deux variables à valeurs dans . Pour tout entier ,
C'est exactement la loi géométrique de paramètre , donc , et en particulier .
Lecture du résultat. L'égalité se lit très bien : à chaque tour, échouer sur les deux épreuves à la fois a pour probabilité le produit des deux probabilités d'échec. Le premier succès de l'un ou de l'autre arrive donc comme le premier succès d'une épreuve unique de probabilité .
Application numérique. Avec et :
Exemple
Le maximum des deux mêmes variables. Gardons et indépendantes, et posons . Pour tout entier , on utilise cette fois l'événement :
puis, par la traduction et l'indépendance,
Les deux premières valeurs sont
Contrairement au minimum, le maximum ne suit pas une loi usuelle. En revanche, son espérance s'obtient sans effort grâce à l'identité
vraie issue par issue puisque le plus petit et le plus grand de deux nombres sont ces deux nombres. La linéarité de l'espérance donne alors
Stabilité des lois binomiales et des lois de Poisson
Additionner deux variables indépendantes de même famille ne redonne pas, en général, une variable de cette famille. Deux cas font exception, et ce sont deux résultats à connaître par coeur.
Propriété
Stabilité de la loi binomiale. Soient et deux variables indépendantes de même paramètre . Alors
Démonstration. Notons et . La variable est à valeurs dans . Fixons dans cet intervalle. La famille est un système complet d'événements, donc la formule des probabilités totales donne
car, à l'intérieur de l'événement , dire que revient à dire que . L'indépendance de et transforme chaque terme en produit :
avec la convention usuelle dès que ou , qui annule automatiquement les termes correspondant à des valeurs impossibles de . Les puissances de et de se regroupent, et elles ne dépendent plus de :
C'est ici que l'hypothèse « même » est utilisée, et elle est indispensable. On peut donc sortir ces facteurs de la somme :
La formule de Vandermonde, que l'on rappelle et que l'on admet, affirme que
Elle se lit d'ailleurs très bien : pour choisir personnes dans un groupe de femmes et hommes, on choisit femmes puis hommes, et l'on somme sur . Finalement
ce qui est exactement la loi .
Ce théorème n'a rien de surprenant si l'on revient au sens des lois : compte les succès de épreuves indépendantes de probabilité , ceux de autres épreuves, indépendantes des premières et de même probabilité . Leur somme compte donc les succès de épreuves indépendantes de probabilité .
Propriété
L'hypothèse « même » est indispensable. Si les deux paramètres diffèrent, la somme n'est pas binomiale.
Démonstration. Prenons et indépendantes, et , à valeurs dans . Par indépendance,
Supposons par l'absurde que suive une loi . La linéarité de l'espérance donne , et l'espérance d'une loi vaut , donc . Il faudrait alors
Ces deux nombres diffèrent : contradiction.
Propriété
Stabilité de la loi de Poisson. Soient et deux variables indépendantes. Alors
Ici, aucune condition sur les paramètres : ils peuvent être différents.
Démonstration. Notons , à valeurs dans . Fixons . Comme ci-dessus, la formule des probabilités totales avec le système complet , puis l'indépendance, donnent
la somme s'arrêtant à puisque ne prend pas de valeur strictement négative. En remplaçant par les lois de Poisson :
où l'on a multiplié et divisé par pour faire apparaître le coefficient binomial, puis reconnu la formule du binôme de Newton. C'est exactement la loi .
Exemple
Un standard téléphonique. Le nombre d'appels reçus le matin suit une loi , celui de l'après-midi une loi , et les deux périodes sont indépendantes. Le nombre total d'appels de la journée suit donc la loi , d'espérance et de variance . La probabilité de n'en recevoir aucun de la journée vaut .
Propriété
La somme de deux lois géométriques n'est pas géométrique. Si et suivent la loi et sont indépendantes, alors ne suit aucune loi géométrique.
Démonstration. Les variables et sont à valeurs dans , donc leur somme est à valeurs dans : en particulier . Or toute variable suivant une loi géométrique de paramètre vérifie . La somme ne peut donc pas être géométrique.
Il n'existe ainsi que deux théorèmes de stabilité au programme, la binomiale à paramètre commun et la loi de Poisson. Écrire « la somme de deux géométriques indépendantes est géométrique » est une faute grave et fréquente, et la décomposition en temps d'attente de la partie 3 montrera ce que cette somme représente réellement.
Covariance de deux variables aléatoires
Définition
Soient et deux variables aléatoires discrètes admettant un moment d'ordre , c'est-à-dire telles que et existent. La covariance de et est le réel
C'est l'exacte transposition de la covariance empirique de la partie 1 : la moyenne des données y devient l'espérance, et la moyenne des produits d'écarts devient une espérance de produit d'écarts.
Propriété
Formule de Kœnig-Huygens.
Démonstration. Notons et , qui sont des constantes. Développons le produit à l'intérieur de l'espérance :
La linéarité de l'espérance, appliquée aux quatre termes (l'espérance d'une constante étant cette constante), donne
Notons qu'aucune hypothèse d'indépendance n'intervient : seule la linéarité est utilisée.
Propriété
Propriétés de la covariance. Pour toutes variables , , admettant un moment d'ordre et tous réels , :
a. Symétrie : .
b. Lien avec la variance : .
c. Constantes : .
d. Bilinéarité : , et de même par rapport à la seconde variable.
Démonstration. a. Le produit de deux réels est commutatif, donc , et les deux espérances sont égales.
b. En prenant dans la définition, , qui est la définition même de la variance.
c. La variable constante égale à a pour espérance , donc, par Kœnig-Huygens, .
d. Utilisons Kœnig-Huygens et la linéarité de l'espérance, en remarquant que :
La linéarité par rapport à la seconde variable s'en déduit par symétrie.
La propriété c jointe à la bilinéarité donne une conséquence commode : . Comme pour la covariance empirique, translater les variables ne change rien.
Propriété
Indépendance et covariance. Si et sont indépendantes (et admettent un moment d'ordre ), alors
On dit alors que et sont non corrélées.
Démonstration. L'indépendance donne , résultat admis plus haut. La formule de Kœnig-Huygens s'écrit alors
Propriété
La réciproque est FAUSSE. Il existe des couples de variables non corrélées, c'est-à-dire de covariance nulle, qui ne sont pas indépendantes.
Démonstration. Voici le contre-exemple de référence, à savoir rédiger intégralement.
Soit une variable suivant la loi uniforme sur , c'est-à-dire , et posons .
Calcul de la covariance. Par transfert à une variable,
Kœnig-Huygens donne donc
Les deux variables sont donc non corrélées.
Elles ne sont pourtant pas indépendantes. La variable prend les valeurs et , avec
Considérons alors le couple :
Comme , les variables et ne sont pas indépendantes.
Ce contre-exemple est à méditer, car il dit exactement ce que mesure la covariance. Ici, est entièrement déterminée par : la dépendance est totale. Mais cette dépendance est de nature quadratique, et la covariance, qui ne détecte que les liaisons affines, ne la voit pas. C'est le pendant probabiliste du panneau parabolique de la figure des quatre nuages.
Il faut donc retenir la hiérarchie exacte : indépendantes entraîne non corrélées, et la flèche ne se remonte pas. Pour prouver une indépendance, on revient toujours à la définition avec les , jamais à une covariance nulle.
Méthode
Calculer une covariance. Trois voies, à choisir selon les données.
- Par Kœnig-Huygens, la voie normale : calculer , , puis par le théorème de transfert, et soustraire. C'est ce qu'on fait dès qu'on dispose du tableau de la loi conjointe.
- Par la bilinéarité, quand les variables sont des combinaisons d'autres variables dont on connaît déjà les covariances. On développe comme un produit, en n'oubliant pas que .
- Par une variance déjà connue, en utilisant la formule de la variance d'une somme « à l'envers » :
Et un réflexe : si l'énoncé dit que les variables sont indépendantes, la covariance est nulle, il n'y a rien à calculer.
Exemple
a. Covariance de l'exemple filé. Avec les deux tirages sans remise, on a calculé et . Donc
Elle est négative, ce qui s'interprète : le premier jeton tiré n'étant plus disponible, un grand numéro au premier tirage rend un grand numéro au second un peu moins probable.
b. Un cas de covariance positive. Un client d'un magasin peut acheter le produit A et le produit B. Notons la variable valant s'il achète A et sinon, de même pour B. La loi conjointe observée est la suivante.
| Loi de | |||
|---|---|---|---|
| Loi de |
Les deux marginales sont des lois de Bernoulli de paramètre , donc et . Le produit ne vaut que sur la case , donc , d'où
Les deux achats vont plutôt ensemble. Au passage, montre aussi que et ne sont pas indépendantes.
Coefficient de corrélation linéaire
Définition
Soient et deux variables aléatoires admettant un moment d'ordre , avec et . Le coefficient de corrélation linéaire de et est le réel
Propriété
Encadrement. , c'est-à-dire
Démonstration. Considérons la fonction définie sur par . Une variance est toujours positive ou nulle, donc pour tout réel . Développons à l'aide de la bilinéarité et de la symétrie de la covariance, en écrivant la variance comme une covariance :
Comme , on a : la fonction est donc un trinôme du second degré de coefficient dominant strictement positif, positif ou nul sur tout entier. Son discriminant est donc négatif ou nul :
En prenant la racine carrée des deux membres positifs, , puis en divisant par , on obtient .
Propriété
Cas d'égalité. On a si, et seulement s'il existe deux réels et tels que
c'est-à-dire si est presque sûrement une fonction affine de . Le réel a alors le signe de .
Démonstration. Utilisons d'abord un lemme : une variable vérifie si, et seulement si, . En effet, par transfert,
somme de termes tous positifs. Elle est nulle si, et seulement si, chaque terme l'est, c'est-à-dire si pour toute valeur : toute la probabilité est alors concentrée sur la valeur .
Sens direct. Supposons . Alors le discriminant du trinôme ci-dessus est nul, donc admet une racine double
D'après le lemme, la variable est presque sûrement égale à son espérance, que nous notons . Donc , ce qui est la forme voulue avec , non nul car , et . Le signe de est celui de , donc celui de .
Réciproque. Supposons avec . Les variables et sont alors presque sûrement égales, donc et aussi : ces deux produits ont la même espérance. La bilinéarité donne alors
Par conséquent et
Propriété
Interprétation. Le coefficient est sans unité et mesure l'intensité de la liaison affine entre les deux variables.
- : les variables sont non corrélées. Elles peuvent parfaitement être dépendantes (contre-exemple de ci-dessus).
- proche de : est presque une fonction affine de , croissante si , décroissante si .
- et indépendantes entraîne , et la réciproque est fausse.
Exemple
Corrélation de l'exemple filé. Avec les deux tirages sans remise, et , donc et
La liaison est décroissante et d'intensité moyenne. Elle n'est pas parfaite (), ce qui est cohérent : connaître ne détermine pas , il reste deux jetons possibles.
Pour le couple d'achats vu plus haut, et , donc : liaison croissante d'intensité moyenne.
Variance d'une somme
Propriété
Variance d'une somme de deux variables. Pour toutes variables et admettant un moment d'ordre ,
Démonstration. C'est le calcul déjà fait pour l'encadrement de , pris en . Écrivons la variance comme une covariance et développons par bilinéarité :
en utilisant la symétrie de la covariance pour regrouper les deux termes centraux.
Propriété
Cas de variables indépendantes. Si et sont indépendantes, alors
Démonstration. L'indépendance entraîne , et le terme croisé disparaît.
L'hypothèse est indispensable, et c'est la faute la plus fréquente du chapitre : la variance n'est pas linéaire. L'espérance d'une somme est toujours la somme des espérances ; la variance d'une somme n'est la somme des variances que si le terme de covariance s'annule.
Propriété
Variance d'une différence.
et donc si et sont indépendantes.
Démonstration. Il suffit d'écrire et d'appliquer la propriété précédente, en utilisant et, par bilinéarité, .
Notez bien le signe devant dans la différence : deux sources de dispersion indépendantes s'ajoutent toujours, qu'on additionne ou qu'on soustraie les variables.
Exemple
Vérification sur l'exemple filé. Avec les deux tirages sans remise, et . La formule donne
Ce résultat coïncide avec le calcul direct mené plus haut, où l'on avait trouvé que suit la loi uniforme sur , de variance .
Pour la différence,
Vérifions-le directement : prend les valeurs , , , avec les probabilités , , , , donc par symétrie et
Les deux méthodes concordent. Remarquez au passage que ici : la somme des variances vaudrait , ce qui est faux, précisément parce que les deux tirages ne sont pas indépendants.
Suites de variables aléatoires discrètes
Passer de deux variables à variables, puis à une suite infinie, n'apporte aucune idée nouvelle : ce sont les mêmes définitions, écrites avec des indices. En revanche, cela ouvre l'accès aux deux méthodes les plus rentables des concours, la décomposition en indicatrices et la décomposition en temps d'attente, qui font l'objet des deux encadrés de méthode ci-dessous.
Indépendance mutuelle
Définition
Les variables aléatoires discrètes , définies sur le même espace probabilisé, sont mutuellement indépendantes lorsque, pour tout -uplet de ,
Une suite de variables aléatoires discrètes est dite indépendante lorsque, pour tout entier , les variables sont mutuellement indépendantes.
Dire d'une suite infinie qu'elle est indépendante revient donc à le dire de toutes ses sous-familles finies : on ne demande jamais d'écrire un produit infini. C'est ce cadre qui permet de modéliser une succession illimitée d'épreuves identiques, par exemple les lancers répétés d'une pièce.
Propriété
Mutuelle entraîne deux à deux. Si sont mutuellement indépendantes, alors elles sont indépendantes deux à deux. La réciproque est fausse.
Démonstration. Implication. Traitons le cas , le cas général étant identique avec des notations plus lourdes. Soient et deux valeurs. La famille est un système complet d'événements, donc la formule des probabilités totales, puis l'hypothèse d'indépendance mutuelle, donnent
puisque la dernière somme vaut . Donc et sont indépendantes, et il en va de même de tout autre couple.
Contre-exemple pour la réciproque. On lance deux fois une pièce équilibrée. Notons la variable valant si le premier lancer donne pile et sinon, de même pour le second lancer, et posons
Les quatre issues sont équiprobables, de probabilité . On a , et pour deux des quatre issues, donc .
Vérifions l'indépendance de et . L'événement signifie « premier lancer pile, et les deux lancers identiques », c'est-à-dire « deux piles » : sa probabilité vaut . Les trois autres couples de valeurs se traitent de la même façon et donnent également , donc et sont indépendantes. Par symétrie, et le sont aussi, et et le sont par construction : les trois variables sont indépendantes deux à deux.
Elles ne sont pourtant pas mutuellement indépendantes :
La raison est facile à dire : prises deux par deux, les trois variables ne s'informent pas les unes les autres, mais la connaissance de deux d'entre elles détermine complètement la troisième. L'indépendance mutuelle est donc strictement plus forte que l'indépendance deux à deux, et c'est elle que les énoncés supposent quand ils écrivent « les variables sont indépendantes ».
Lemme des coalitions
Propriété
Lemme des coalitions (admis). Soient des variables aléatoires discrètes mutuellement indépendantes et . Alors toute variable aléatoire fonction de est indépendante de toute variable aléatoire fonction de .
Le nom vient de l'image : on sépare les variables en deux coalitions, et ce que fabrique la première coalition est indépendant de ce que fabrique la seconde. Le lemme est admis, comme le prévoit le programme, mais son emploi doit être explicitement cité dans une copie.
Exemple
Trois usages typiques. Soient mutuellement indépendantes.
a. est indépendante de : la première est fonction de la coalition , la seconde de la coalition . On en déduit par exemple
b. est indépendante de , donc .
c. Avec et , le lemme redonne le résultat annoncé dans la partie 2 : si et sont indépendantes, alors et le sont, donc et sont indépendantes.
Une mise en garde : les deux coalitions doivent être disjointes. La variable n'est évidemment pas indépendante de , puisque figure dans les deux.
Espérance et variance d'une somme de variables
Propriété
Espérance d'une somme. Si admettent chacune une espérance, alors leur somme aussi et
Plus généralement, pour tous réels , . Aucune hypothèse d'indépendance n'est nécessaire.
Démonstration. Par récurrence sur . Pour il n'y a rien à démontrer, et pour c'est la linéarité de l'espérance. Supposons le résultat vrai au rang et considérons variables. En posant , la linéarité à deux variables appliquée au couple donne
ce qui achève la récurrence.
Propriété
Variance d'une somme, cas général. Si admettent un moment d'ordre , alors
Démonstration. La bilinéarité de la covariance s'étend par récurrence immédiate à des sommes de termes. En écrivant la variance comme une covariance,
Séparons cette somme double en deux paquets. Les termes diagonaux, ceux pour lesquels , valent . Les termes non diagonaux se regroupent deux par deux : pour , les couples et apparaissent tous les deux, et la symétrie donne . D'où
Propriété
Variance d'une somme de variables indépendantes. Si sont mutuellement indépendantes et admettent un moment d'ordre , alors
Démonstration. L'indépendance mutuelle entraîne l'indépendance deux à deux, donc pour tous , deux variables indépendantes étant non corrélées. Tous les termes croisés de la formule générale disparaissent.
On notera que la démonstration n'utilise que l'indépendance deux à deux : c'est une hypothèse plus faible qui suffit pour la variance, même si les énoncés donnent presque toujours l'indépendance mutuelle.
Exemple
Retrouver espérance et variance d'une loi binomiale. Soit . La variable compte les succès de épreuves indépendantes de probabilité , donc où vaut si la -ième épreuve est un succès et sinon. Chaque suit la loi , donc et , et les sont mutuellement indépendantes. Il vient immédiatement
Ces deux formules, démontrées en première année par un calcul de sommes bien plus lourd, tiennent ici en deux lignes. C'est tout l'intérêt de la méthode du paragraphe suivant.
Deux méthodes à connaître par coeur
a. La méthode des indicatrices. La première méthode transforme un comptage en une somme de variables de Bernoulli, ce qui rend l'espérance immédiate même lorsque la loi de la variable comptée est inaccessible.
Définition
Soit un événement. La variable indicatrice de , notée , est la variable aléatoire qui vaut si est réalisé et sinon.
Propriété
Pour tous événements et :
a. , donc et ;
b. , et en particulier ;
c. .
Démonstration. a. La variable ne prend que les valeurs et , et : c'est donc une variable de Bernoulli de paramètre , dont l'espérance et la variance sont connues.
b. Le produit vaut si et seulement si les deux facteurs valent , c'est-à-dire si appartient à et à , donc à ; il vaut sinon. C'est exactement . En prenant , on obtient .
c. Par Kœnig-Huygens et le point b,
Méthode
La méthode des indicatrices. Elle s'applique dès qu'une variable compte quelque chose, et elle évite d'avoir à déterminer sa loi, souvent inaccessible.
- Repérer ce que la variable compte : « le nombre de tirages qui donnent une boule blanche », « le nombre de personnes qui reçoivent leur propre cadeau », « le nombre de couleurs présentes dans la main ».
- Nommer les événements correspondant à chacune des situations comptées, et écrire, en le justifiant en une phrase,
- Calculer , puis l'espérance par linéarité :
Aucune hypothèse d'indépendance n'est requise, et c'est ce qui rend la méthode si puissante. 4. Pour la variance, calculer aussi pour , puis appliquer la formule générale de la variance d'une somme. Ne jamais écrire sans avoir vérifié l'indépendance : le plus souvent, les ne sont pas indépendants. 5. Contrôler que est bien comprise entre les valeurs extrêmes possibles de .
Exemple
Le problème des enveloppes. Une secrétaire distribue au hasard lettres dans enveloppes déjà libellées, une par enveloppe, avec . On note le nombre de lettres qui arrivent à leur destinataire. Déterminer la loi de est difficile ; son espérance et sa variance ne le sont pas.
Modélisation. Une distribution est une bijection des lettres vers les enveloppes, il y en a , toutes équiprobables. Notons l'événement « la lettre numéro est dans la bonne enveloppe ». Une lettre est bien placée ou ne l'est pas, donc
Probabilités. Pour compter les distributions réalisant , on fixe la lettre dans son enveloppe et l'on répartit librement les autres, ce qui laisse possibilités. Donc
De même, pour , on fixe deux lettres et l'on répartit les autres :
Espérance. Par linéarité, sans aucune hypothèse d'indépendance,
En moyenne, une seule lettre arrive à bon port, et ce quel que soit . Le résultat est contre-intuitif et pourtant exact.
Variance. Les événements ne sont pas indépendants : savoir que lettres sont bien placées force la dernière à l'être aussi. Il faut donc la formule complète. D'une part,
D'autre part, pour ,
Le nombre de couples tels que vaut , donc
Finalement
L'espérance et la variance valent donc toutes deux , quel que soit le nombre de lettres. Notez que le calcul « rapide » aurait donné un résultat faux : la covariance, minuscule case par case, ne se néglige pas une fois multipliée par le nombre de couples.
b. La décomposition en temps d'attente. La seconde méthode découpe une durée totale en étapes successives, chacune de loi géométrique, ce qui ramène le calcul d'une espérance à une simple addition.
Méthode
La décomposition en temps d'attente. Elle s'applique dès qu'une variable mesure une durée totale avant l'aboutissement d'une expérience répétée.
- Découper la durée en étapes : le temps qui s'écoule avant le premier objectif, puis entre le premier et le deuxième, et ainsi de suite. Écrire
en disant précisément ce que compte chaque . 2. Reconnaître une loi géométrique pour chaque : à partir du moment où l'étape commence, chaque tentative réussit avec une probabilité constante, indépendamment des précédentes. Alors , et il faut identifier ce avec soin, car il change d'une étape à l'autre. 3. Sommer les espérances par linéarité : . 4. Pour la variance, invoquer l'indépendance des , qui découle de l'indépendance des tentatives successives, puis .
Exemple
Le collectionneur de figurines. Un fabricant glisse dans chaque paquet de céréales une figurine choisie au hasard parmi modèles, de façon équiprobable et indépendante d'un paquet à l'autre. On note le nombre de paquets qu'il faut acheter pour posséder la collection complète.
Découpage. Notons , pour , le nombre de paquets achetés pour passer de modèles distincts à modèles distincts. Alors
Loi de chaque étape. Le tout premier paquet apporte forcément un modèle nouveau, donc : cette étape est certaine, d'espérance et de variance . Pour , lorsque l'on possède déjà modèles, un paquet apporte une nouveauté si sa figurine fait partie des modèles manquants, ce qui arrive avec la probabilité , indépendamment des paquets précédents. La variable est donc le rang du premier succès d'une suite d'épreuves indépendantes de paramètre :
Espérance. Par linéarité, et puisque l'espérance d'une loi vaut ,
Il faut donc acheter en moyenne un peu plus de huit paquets pour compléter une collection de quatre figurines, alors qu'un raisonnement naïf en annoncerait quatre.
Variance. Les variables sont indépendantes, ce que l'on admet ici, les paquets étant achetés indépendamment les uns des autres. La variance d'une loi valant , il vient
soit et . La dispersion est considérable : la dernière figurine se fait attendre.
Exemple
Le rang du -ième succès. On répète indépendamment une épreuve de probabilité de succès , et l'on note le rang du -ième succès. En posant le rang du premier succès et, pour , le nombre d'épreuves séparant le -ième succès du -ième, on obtient
d'où et .
Ce résultat éclaire la mise en garde de la partie 2 : une somme de variables géométriques indépendantes n'est pas géométrique, c'est un temps d'attente du -ième succès, dont les valeurs commencent à .
Moyenne empirique d'un échantillon
Définition
Soit un échantillon de taille , c'est-à-dire une famille de variables aléatoires mutuellement indépendantes et de même loi, d'espérance commune et de variance commune . La moyenne empirique de l'échantillon est la variable aléatoire
Ce dispositif modélise la répétition indépendante d'une même mesure : pièces prélevées dans une production, clients interrogés dans les mêmes conditions. L'abréviation « i.i.d. », pour « indépendantes et identiquement distribuées », est parfois employée pour cette hypothèse.
Propriété
Avec les notations ci-dessus,
Démonstration. Espérance. La linéarité, valable sans hypothèse, donne
Variance. On utilise d'abord avec , puis l'indépendance des :
L'écart-type s'obtient en prenant la racine carrée.
Ces deux formules disent l'essentiel du sondage. La moyenne empirique est centrée sur la bonne valeur : son espérance est exactement la grandeur que l'on cherche à connaître, quelle que soit la taille de l'échantillon. Et sa dispersion décroît quand augmente, mais en seulement : pour diviser par l'écart-type de la moyenne, il faut multiplier par la taille de l'échantillon. C'est le coût, bien connu des instituts de sondage, de toute amélioration de précision.
Exemple
Un contrôle de production. La masse d'une pièce produite par une machine a pour espérance grammes et pour écart-type grammes. On prélève pièces, indépendamment les unes des autres, et l'on note la masse moyenne du prélèvement. Alors
La moyenne de pièces est donc dix fois moins dispersée qu'une pièce isolée. Avec pièces seulement, on aurait grammes.
Tableau récapitulatif
Les formules ci-dessous sont à connaître par coeur, hypothèses comprises. C'est l'oubli d'une hypothèse, bien plus qu'une erreur de formule, qui coûte des points dans ce chapitre.
Partie statistique (données observées ).
| Objet | Formule | À retenir |
|---|---|---|
| Point moyen | toute droite de régression y passe | |
| Variance empirique | Kœnig-Huygens | |
| Covariance empirique | dépend des unités | |
| Corrélation | , sans unité | |
| Cas | points alignés | et réciproquement |
| Droite de en | , | minimise |
| Résidus minimaux | nuls si | |
| Pré-transformations | et |
Partie probabilités (couple de variables discrètes).
| Objet | Formule | Hypothèse |
|---|---|---|
| Loi conjointe | aucune | |
| Marginales | aucune (les marges ne redonnent pas la conjointe) | |
| Transfert | admis | |
| Linéarité | aucune | |
| Produit | et indépendantes | |
| Indépendance | pour tous | définition |
| Minimum | aucune pour l'égalité | |
| Maximum | aucune pour l'égalité | |
| Stabilité binomiale | indépendantes, même | |
| Stabilité Poisson | indépendantes | |
| Covariance | aucune | |
| Indépendance et covariance | indépendantes | réciproque fausse |
| Corrélation | ||
| Variance d'une somme | aucune | |
| Cas indépendant | indépendantes | |
| Somme de variables | aucune | |
| Variance de variables | indépendantes | |
| Indicatrices | , | aucune |
| Moyenne empirique | , | échantillon indépendant de même loi |
Quatre résultats du programme sont admis dans ce chapitre : le théorème de transfert, la linéarité de l'espérance, l'égalité sous indépendance, et le lemme des coalitions. S'y ajoutent deux admissions techniques, signalées à l'endroit où elles servent : la formule de Vandermonde et l'indépendance des temps d'attente successifs du collectionneur. Tout le reste a été démontré ici.
Et cinq pièges reviennent à chaque copie. Confondre les objets empiriques et les objets probabilistes . Croire que les lois marginales déterminent la loi conjointe. Ajouter des variances sans hypothèse d'indépendance. Déduire l'indépendance d'une covariance nulle, alors que la réciproque est fausse. Enfin, affirmer qu'une somme de lois géométriques indépendantes est géométrique, ou qu'une somme de binomiales de paramètres différents est binomiale : ni l'une ni l'autre ne l'est.
Bloqué sur « Probabilités et statistiques : statistiques bivariées et couples » ?
On peut le travailler ensemble dès cette semaine. La première heure est offerte — on fait le point honnêtement, et vous repartez au minimum avec une méthode.