Sommes de variables aléatoires, loi des grands nombres
Ce chapitre fait partie du programme de Terminale.
Ce chapitre donne les outils pour calculer l'espérance et la variance d'une variable aléatoire construite comme une somme, en particulier la somme ou la moyenne d'un échantillon. Il établit ensuite, grâce à l'inégalité de Bienaymé-Tchebychev, que la moyenne d'un grand échantillon se concentre autour de l'espérance : c'est la loi des grands nombres.
Prérequis
- Variable aléatoire réelle sur un univers fini : loi de probabilité, espérance, variance, écart type (programme de 1re).
- Formules $E(aX+b)=aE(X)+b$ et $V(aX+b)=a^2V(X)$.
- Formule de König-Huygens : $V(X)=E(X^2)-E(X)^2$.
- Succession d'épreuves indépendantes, loi de Bernoulli, loi binomiale $\mathcal{B}(n,p)$.
- Valeur absolue et distance : $|x-a|<\delta \iff a-\delta<x<a+\delta$.
- Limites de suites, théorème des gendarmes.
À la fin du chapitre, on sait
- Définir la somme de deux variables aléatoires et déterminer sa loi dans des cas simples.
- Utiliser la linéarité de l'espérance, y compris sans hypothèse d'indépendance.
- Utiliser l'additivité de la variance pour des variables aléatoires indépendantes.
- Représenter une variable de loi binomiale comme somme de variables de Bernoulli indépendantes et en déduire son espérance et sa variance (démonstration exigible).
- Calculer l'espérance, la variance et l'écart type de la somme $S_n$ et de la moyenne $M_n$ d'un échantillon.
- Appliquer l'inégalité de Bienaymé-Tchebychev pour définir un intervalle de fluctuation.
- Démontrer l'inégalité de concentration et l'utiliser pour déterminer une taille d'échantillon, pour une précision et un risque donnés.
- Énoncer et interpréter la loi faible des grands nombres.
1.Somme de variables aléatoires et linéarité de l'espérance
Dans tout le chapitre, on travaille sur un univers $\Omega$ fini muni d'une probabilité $P$. Les variables aléatoires considérées sont réelles et définies sur ce même univers $\Omega$. On note $E(X)$ l'espérance, $V(X)$ la variance et $\sigma(X)=\sqrt{V(X)}$ l'écart type d'une variable aléatoire $X$.
Somme de variables aléatoires, produit par un réel
Soit $X$ et $Y$ deux variables aléatoires définies sur $\Omega$ et $a$ un réel.
- La variable aléatoire $X+Y$ est définie par $(X+Y)(\omega)=X(\omega)+Y(\omega)$ pour tout $\omega\in\Omega$.
- La variable aléatoire $aX$ est définie par $(aX)(\omega)=a\,X(\omega)$.
On définit de même la somme $X_1+X_2+\dots+X_n$ de $n$ variables aléatoires.
Pour obtenir la loi de $X+Y$, on regroupe tous les couples de valeurs $(x,y)$ qui donnent la même somme : $$P(X+Y=s)=\sum_{x+y=s}P\big(\{X=x\}\cap\{Y=y\}\big).$$
Loi d'une somme
On lance une pièce équilibrée : $X$ vaut $1$ si on obtient Pile, $0$ sinon. Puis, de façon indépendante, on tire au hasard un jeton parmi trois jetons numérotés $1$, $2$, $3$ : $Y$ est le numéro obtenu.
Les deux expériences étant indépendantes, chaque couple $(x,y)$ a pour probabilité $\frac12\times\frac13=\frac16$.
| $(x,y)$ | $(0,1)$ | $(0,2)$ | $(0,3)$ | $(1,1)$ | $(1,2)$ | $(1,3)$ |
|---|---|---|---|---|---|---|
| $x+y$ | $1$ | $2$ | $3$ | $2$ | $3$ | $4$ |
On en déduit la loi de $X+Y$ :
| $s$ | $1$ | $2$ | $3$ | $4$ |
|---|---|---|---|---|
| $P(X+Y=s)$ | $\frac16$ | $\frac13$ | $\frac13$ | $\frac16$ |
Par exemple $P(X+Y=2)=P(X=0,Y=2)+P(X=1,Y=1)=\frac16+\frac16=\frac13$.
Alors $E(X+Y)=1\times\frac16+2\times\frac13+3\times\frac13+4\times\frac16=\frac{1+4+6+4}{6}=\frac{15}{6}=\frac52$.
Or $E(X)=\frac12$ et $E(Y)=\frac{1+2+3}{3}=2$ : on constate que $E(X+Y)=E(X)+E(Y)$.
Linéarité de l'espérance
Soit $X$ et $Y$ deux variables aléatoires définies sur $\Omega$, et $a$, $b$ deux réels. Alors : $$E(X+Y)=E(X)+E(Y)\qquad\text{et}\qquad E(aX)=aE(X).$$ Plus généralement $E(aX+bY)=aE(X)+bE(Y)$ et, pour $n$ variables aléatoires : $$E(X_1+X_2+\dots+X_n)=E(X_1)+E(X_2)+\dots+E(X_n).$$ Aucune hypothèse d'indépendance n'est nécessaire.
Linéarité de l'espérance (univers fini)
Notons $\Omega=\{\omega_1,\dots,\omega_N\}$ et $p_k=P(\{\omega_k\})$.
On commence par écrire l'espérance comme une somme sur les issues. Si $X$ prend les valeurs $x_1,\dots,x_r$, l'événement $\{X=x_i\}$ est la réunion des issues $\omega_k$ telles que $X(\omega_k)=x_i$, donc $P(X=x_i)$ est la somme des $p_k$ correspondants. En regroupant les termes selon la valeur prise par $X$ : $$\sum_{k=1}^{N}X(\omega_k)\,p_k=\sum_{i=1}^{r}x_i\,P(X=x_i)=E(X).$$ On applique cette formule à $X+Y$ : $$E(X+Y)=\sum_{k=1}^{N}\big(X(\omega_k)+Y(\omega_k)\big)p_k=\sum_{k=1}^{N}X(\omega_k)p_k+\sum_{k=1}^{N}Y(\omega_k)p_k=E(X)+E(Y).$$ De même $E(aX)=\sum_{k=1}^{N}aX(\omega_k)p_k=a\sum_{k=1}^{N}X(\omega_k)p_k=aE(X)$.
Le cas de $n$ variables s'obtient en appliquant le résultat de proche en proche.
Pas besoin d'indépendance
On lance un dé équilibré à six faces. Soit $X$ le nombre obtenu et $Y=7-X$ le nombre inscrit sur la face opposée. Les variables $X$ et $Y$ sont très liées : connaître $X$, c'est connaître $Y$.
Pourtant la linéarité s'applique : $X+Y=7$, donc $E(X+Y)=7$, et l'on a bien $E(X)+E(Y)=3{,}5+3{,}5=7$.
Calculer une espérance en décomposant en somme
Pour calculer l'espérance d'une variable aléatoire dont la loi est difficile à obtenir :
- Écrire la variable comme une somme $X_1+\dots+X_n$ de variables simples (gain à chaque étape, indicatrice de succès à chaque épreuve, etc.).
- Calculer l'espérance de chaque $X_i$.
- Additionner, par linéarité de l'espérance. Il n'est pas nécessaire de connaître la loi de la somme.
Gain sur quatre tirages
Une urne contient $3$ boules rouges et $2$ boules vertes. On tire successivement $4$ boules avec remise. Chaque boule rouge fait gagner $2$ euros, chaque boule verte fait perdre $1$ euro. On note $G$ le gain total.
Pour $i\in\{1,2,3,4\}$, soit $G_i$ le gain au $i$-ième tirage. Alors $G=G_1+G_2+G_3+G_4$ et chaque $G_i$ a la même loi :
| $g$ | $2$ | $-1$ |
|---|---|---|
| $P(G_i=g)$ | $0{,}6$ | $0{,}4$ |
On a $E(G_i)=2\times0{,}6+(-1)\times0{,}4=0{,}8$. Par linéarité : $$E(G)=4\times0{,}8=3{,}2.$$ En moyenne, sur un grand nombre de parties, on gagne $3{,}20$ euros par partie.
2.Variance d'une somme de variables aléatoires indépendantes
Variables aléatoires indépendantes
Deux variables aléatoires $X$ et $Y$ définies sur $\Omega$ sont indépendantes si, pour toutes valeurs $x$ prise par $X$ et $y$ prise par $Y$, les événements $\{X=x\}$ et $\{Y=y\}$ sont indépendants : $$P\big(\{X=x\}\cap\{Y=y\}\big)=P(X=x)\times P(Y=y).$$ La situation typique au programme est celle d'une succession d'épreuves indépendantes : si $X$ ne dépend que du résultat de la première épreuve et $Y$ que du résultat de la deuxième, alors $X$ et $Y$ sont indépendantes. De même, $n$ variables $X_1,\dots,X_n$ associées chacune à une épreuve différente d'une succession de $n$ épreuves indépendantes sont dites indépendantes.
Rappel : variance et transformation affine
Pour toute variable aléatoire $X$ et tous réels $a$ et $b$ : $$V(aX+b)=a^2V(X)\qquad\text{et}\qquad\sigma(aX+b)=|a|\,\sigma(X).$$ Ajouter une constante ne change pas la dispersion ; multiplier par $a$ multiplie la variance par $a^2$.
Additivité de la variance (admis)
Si $X$ et $Y$ sont deux variables aléatoires indépendantes, alors : $$V(X+Y)=V(X)+V(Y).$$ Plus généralement, si $X_1,\dots,X_n$ sont indépendantes : $$V(X_1+X_2+\dots+X_n)=V(X_1)+V(X_2)+\dots+V(X_n).$$
Vérification sur un cas simple
On reprend les variables indépendantes $X$ (pièce) et $Y$ (jeton) de la section précédente.
- $V(X)=E(X^2)-E(X)^2=\frac12-\frac14=\frac14$.
- $V(Y)=E(Y^2)-E(Y)^2=\frac{1+4+9}{3}-4=\frac{14}{3}-4=\frac23$.
Le théorème donne $V(X+Y)=\frac14+\frac23=\frac{11}{12}$.
Calcul direct à partir de la loi de $X+Y$ : $E\big((X+Y)^2\big)=\frac{1\times1+4\times2+9\times2+16\times1}{6}=\frac{43}{6}$, donc $$V(X+Y)=\frac{43}{6}-\left(\frac52\right)^2=\frac{86}{12}-\frac{75}{12}=\frac{11}{12}.$$ Les deux calculs concordent.
Sans indépendance, la formule est fausse
On reprend le dé et $Y=7-X$. On a $V(X)=E(X^2)-E(X)^2=\frac{91}{6}-\frac{49}{4}=\frac{35}{12}$, et $V(Y)=V(-X+7)=V(X)=\frac{35}{12}$.
Comme $X+Y=7$ est constante, $V(X+Y)=0$, alors que $V(X)+V(Y)=\frac{35}{6}$.
L'espérance d'une somme est toujours la somme des espérances ; pour la variance, il faut l'indépendance.
Conséquences
Si $X$ et $Y$ sont indépendantes et $a$, $b$ réels :
- $V(aX+bY)=a^2V(X)+b^2V(Y)$ ;
- en particulier $V(X-Y)=V(X)+(-1)^2V(Y)=V(X)+V(Y)$ : la variance d'une différence est la somme des variances ;
- $\sigma(X+Y)=\sqrt{\sigma(X)^2+\sigma(Y)^2}$, qui est en général différent de $\sigma(X)+\sigma(Y)$.
Les écarts types ne s'additionnent pas : ce sont les variances qui s'additionnent.
Calculer la variance d'une somme
- Décomposer la variable en somme $X_1+\dots+X_n$.
- Justifier l'indépendance des $X_i$ (en général : elles sont associées à des épreuves indépendantes, par exemple des tirages avec remise).
- Calculer chaque $V(X_i)$, souvent par $V(X_i)=E(X_i^2)-E(X_i)^2$.
- Additionner les variances, puis prendre la racine carrée pour obtenir l'écart type.
Variance du gain sur quatre tirages
On reprend $G=G_1+G_2+G_3+G_4$. Les tirages sont faits avec remise, donc sont indépendants, et les $G_i$ sont indépendantes.
$E(G_i^2)=4\times0{,}6+1\times0{,}4=2{,}8$, donc $V(G_i)=2{,}8-0{,}8^2=2{,}8-0{,}64=2{,}16$.
Par additivité : $V(G)=4\times2{,}16=8{,}64$ et $\sigma(G)=\sqrt{8{,}64}\approx2{,}94$.
3.Loi binomiale et somme de variables de Bernoulli
Espérance et variance d'une loi de Bernoulli
Si $X$ suit la loi de Bernoulli de paramètre $p$ (elle vaut $1$ avec probabilité $p$ et $0$ avec probabilité $1-p$), alors : $$E(X)=p\qquad\text{et}\qquad V(X)=p(1-p).$$
Loi de Bernoulli
$E(X)=1\times p+0\times(1-p)=p$.
Comme $X$ ne prend que les valeurs $0$ et $1$, on a $X^2=X$, donc $E(X^2)=p$. Par la formule de König-Huygens : $$V(X)=E(X^2)-E(X)^2=p-p^2=p(1-p).$$
Représentation d'une loi binomiale
On répète $n$ fois, de façon indépendante, une épreuve de Bernoulli de probabilité de succès $p$. Pour $i\in\{1,\dots,n\}$, on note $X_i$ la variable qui vaut $1$ si la $i$-ième épreuve est un succès et $0$ sinon.
Les variables $X_1,\dots,X_n$ sont indépendantes, de même loi de Bernoulli de paramètre $p$, et le nombre de succès est $$X=X_1+X_2+\dots+X_n.$$ La variable $X$ suit la loi binomiale $\mathcal{B}(n,p)$.
Inversement, toute variable de loi $\mathcal{B}(n,p)$ peut être vue ainsi comme une somme de $n$ variables de Bernoulli indépendantes de paramètre $p$.
Espérance et variance de la loi binomiale
Si $X$ suit la loi binomiale $\mathcal{B}(n,p)$, alors : $$E(X)=np,\qquad V(X)=np(1-p),\qquad \sigma(X)=\sqrt{np(1-p)}.$$
Espérance et variance de la loi binomiale (exigible)
On écrit $X=X_1+\dots+X_n$ où les $X_i$ sont indépendantes et suivent la loi de Bernoulli de paramètre $p$.
Espérance. Par linéarité de l'espérance : $$E(X)=E(X_1)+\dots+E(X_n)=\underbrace{p+\dots+p}_{n\text{ termes}}=np.$$ Variance. Les $X_i$ étant indépendantes, la variance de leur somme est la somme de leurs variances : $$V(X)=V(X_1)+\dots+V(X_n)=\underbrace{p(1-p)+\dots+p(1-p)}_{n\text{ termes}}=np(1-p).$$ Enfin $\sigma(X)=\sqrt{V(X)}=\sqrt{np(1-p)}$.
Application numérique
Un QCM comporte $20$ questions indépendantes. Un élève qui répond au hasard a une probabilité $0{,}3$ de répondre juste à chacune. Le nombre $X$ de bonnes réponses suit $\mathcal{B}(20\,;0{,}3)$.
$E(X)=20\times0{,}3=6$, $V(X)=20\times0{,}3\times0{,}7=4{,}2$, $\sigma(X)=\sqrt{4{,}2}\approx2{,}05$.
Tirages sans remise
Une urne contient $3$ boules rouges et $2$ vertes. On tire $2$ boules successivement sans remise ; $X$ est le nombre de boules rouges obtenues. On pose $X=X_1+X_2$, où $X_i$ vaut $1$ si la $i$-ième boule est rouge.
- $P(X_1=1)=\frac35$ et $P(X_2=1)=\frac35\times\frac24+\frac25\times\frac34=\frac{6}{20}+\frac{6}{20}=\frac35$.
- La linéarité reste valable : $E(X)=\frac35+\frac35=\frac65=1{,}2$.
Mais $X_1$ et $X_2$ ne sont pas indépendantes, et $X$ ne suit pas une loi binomiale. Calcul direct : $P(X=2)=\frac35\times\frac24=0{,}3$, $P(X=0)=\frac25\times\frac14=0{,}1$, $P(X=1)=0{,}6$. Alors $E(X^2)=0{,}6+4\times0{,}3=1{,}8$ et $V(X)=1{,}8-1{,}44=0{,}36$, alors que $V(X_1)+V(X_2)=2\times\frac35\times\frac25=0{,}48$.
4.Échantillon d'une loi, somme et moyenne
Échantillon
Soit $X$ une variable aléatoire et $n$ un entier naturel non nul. Un échantillon de taille $n$ de la loi de $X$ est une liste $(X_1,X_2,\dots,X_n)$ de $n$ variables aléatoires indépendantes et qui suivent toutes la même loi que $X$.
C'est le modèle de $n$ répétitions indépendantes d'une même expérience aléatoire : $X_i$ est le résultat de la $i$-ième répétition.
Somme et moyenne d'un échantillon
Pour un échantillon $(X_1,\dots,X_n)$, on définit :
- la somme $S_n=X_1+X_2+\dots+X_n$ ;
- la moyenne (ou moyenne empirique) $M_n=\dfrac{S_n}{n}=\dfrac{X_1+X_2+\dots+X_n}{n}$.
Ce sont des variables aléatoires : leur valeur change d'une série de $n$ expériences à l'autre.
Espérance, variance et écart type de $S_n$ et $M_n$
Soit $(X_1,\dots,X_n)$ un échantillon de la loi d'une variable $X$ d'espérance $\mu=E(X)$ et de variance $V=V(X)$. Alors : $$E(S_n)=n\mu,\qquad V(S_n)=nV,\qquad \sigma(S_n)=\sqrt{n}\,\sigma(X),$$ $$E(M_n)=\mu,\qquad V(M_n)=\frac{V}{n},\qquad \sigma(M_n)=\frac{\sigma(X)}{\sqrt{n}}.$$
Somme et moyenne d'un échantillon
Chaque $X_i$ a la même loi que $X$, donc $E(X_i)=\mu$ et $V(X_i)=V$.
Par linéarité : $E(S_n)=E(X_1)+\dots+E(X_n)=n\mu$.
Les $X_i$ étant indépendantes : $V(S_n)=V(X_1)+\dots+V(X_n)=nV$, donc $\sigma(S_n)=\sqrt{nV}=\sqrt n\,\sigma(X)$.
Comme $M_n=\frac1n S_n$ : $$E(M_n)=\frac1n E(S_n)=\frac{n\mu}{n}=\mu,\qquad V(M_n)=\frac{1}{n^2}V(S_n)=\frac{nV}{n^2}=\frac Vn,$$ et $\sigma(M_n)=\sqrt{\dfrac Vn}=\dfrac{\sigma(X)}{\sqrt n}$.
Cent lancers de dé
On lance $100$ fois un dé équilibré. Pour un lancer, $\mu=3{,}5$ et $V=\frac{35}{12}$, donc $\sigma(X)=\sqrt{\frac{35}{12}}\approx1{,}708$.
- Somme des résultats : $E(S_{100})=350$, $V(S_{100})=100\times\frac{35}{12}=\frac{875}{3}\approx291{,}7$, $\sigma(S_{100})=10\,\sigma(X)\approx17{,}08$.
- Moyenne des résultats : $E(M_{100})=3{,}5$, $V(M_{100})=\frac{35}{1200}=\frac{7}{240}\approx0{,}029$, $\sigma(M_{100})=\frac{\sigma(X)}{10}\approx0{,}171$.
La somme se disperse davantage que pour un seul lancer, la moyenne beaucoup moins.
Ne pas confondre $nX$ et $X_1+\dots+X_n$
$nX$ correspond à une seule expérience dont on multiplie le résultat par $n$ : $V(nX)=n^2V(X)$.
$S_n=X_1+\dots+X_n$ correspond à $n$ expériences indépendantes : $V(S_n)=nV(X)$.
Les deux variables ont la même espérance $n\mu$, mais pas la même variance. Par exemple, avec le dé : $V(2X)=4\times\frac{35}{12}=\frac{35}{3}$, tandis que $V(X_1+X_2)=2\times\frac{35}{12}=\frac{35}{6}$.
Interprétation
La moyenne $M_n$ a toujours pour espérance $\mu$, et son écart type $\frac{\sigma(X)}{\sqrt n}$ diminue quand $n$ augmente : les valeurs de $M_n$ se resserrent autour de $\mu$. Comme l'écart type est divisé par $\sqrt n$, il faut multiplier la taille de l'échantillon par $4$ pour diviser l'écart type de la moyenne par $2$, et par $100$ pour le diviser par $10$.
5.Inégalité de Bienaymé-Tchebychev
Inégalité de Bienaymé-Tchebychev
Soit $X$ une variable aléatoire d'espérance $\mu$ et de variance $V$. Pour tout réel $\delta>0$ : $$P\big(|X-\mu|\geq\delta\big)\leq\frac{V}{\delta^2}.$$ L'événement $\{|X-\mu|\geq\delta\}$ signifie que $X$ s'écarte de son espérance d'au moins $\delta$.
Cas d'une variable prenant un nombre fini de valeurs
Notons $x_1,\dots,x_r$ les valeurs prises par $X$ et $p_i=P(X=x_i)$. Notons $I$ l'ensemble des indices $i$ tels que $|x_i-\mu|\geq\delta$ ; alors $P(|X-\mu|\geq\delta)=\sum_{i\in I}p_i$.
Par définition, $V=\sum_{i=1}^{r}(x_i-\mu)^2p_i$. Tous les termes sont positifs, donc en ne gardant que ceux d'indice dans $I$ : $$V\geq\sum_{i\in I}(x_i-\mu)^2p_i.$$ Pour $i\in I$, $|x_i-\mu|\geq\delta$, donc $(x_i-\mu)^2\geq\delta^2$. Ainsi : $$V\geq\sum_{i\in I}\delta^2p_i=\delta^2\,P(|X-\mu|\geq\delta).$$ En divisant par $\delta^2>0$, on obtient $P(|X-\mu|\geq\delta)\leq\dfrac{V}{\delta^2}$.
Formes équivalentes
- En passant à l'événement contraire : $$P\big(|X-\mu|<\delta\big)\geq1-\frac{V}{\delta^2},$$ c'est-à-dire $P(\mu-\delta<X<\mu+\delta)\geq1-\dfrac{V}{\delta^2}$.
- Avec $\delta=k\sigma$ où $\sigma=\sigma(X)>0$ et $k>0$ : $$P\big(|X-\mu|\geq k\sigma\big)\leq\frac{1}{k^2}.$$ Par exemple, la probabilité que $X$ s'écarte de $\mu$ d'au moins $2\sigma$ est au plus $\frac14$, d'au moins $3\sigma$ au plus $\frac19$.
Cent lancers d'une pièce
On lance $100$ fois une pièce équilibrée ; $X$ est le nombre de Pile. $X$ suit $\mathcal{B}(100\,;0{,}5)$, donc $\mu=50$, $V=100\times0{,}5\times0{,}5=25$ et $\sigma=5$.
Avec $\delta=10$ : $$P\big(|X-50|\geq10\big)\leq\frac{25}{10^2}=0{,}25,$$ donc $P(40<X<60)\geq0{,}75$.
Un calcul avec la loi binomiale donne en réalité $P(|X-50|\geq10)\approx0{,}06$ : la majoration est vraie mais large.
Construire un intervalle de fluctuation avec Bienaymé-Tchebychev
On cherche un intervalle centré en $\mu$ qui contient $X$ avec une probabilité au moins $1-\alpha$ ($\alpha$ est le risque).
- Calculer $\mu=E(X)$ et $V=V(X)$.
- Chercher $\delta>0$ tel que $\dfrac{V}{\delta^2}\leq\alpha$, c'est-à-dire $\delta^2\geq\dfrac V\alpha$, soit $\delta\geq\sqrt{\dfrac V\alpha}$.
- Conclure : $P(\mu-\delta<X<\mu+\delta)\geq1-\alpha$. Si $X$ ne prend que des valeurs entières, traduire l'intervalle en entiers.
Intervalle au seuil de 90 %
On reprend $X\sim\mathcal{B}(100\,;0{,}5)$ et on veut une probabilité au moins $0{,}9$, soit $\alpha=0{,}1$.
Il faut $\delta^2\geq\dfrac{25}{0{,}1}=250$, soit $\delta\geq\sqrt{250}\approx15{,}8$. On prend $\delta=16$ : $\dfrac{25}{256}\approx0{,}098\leq0{,}1$.
Donc $P(34<X<66)\geq0{,}9$. Comme $X$ est entière, $34<X<66$ équivaut à $35\leq X\leq65$ : $$P(35\leq X\leq65)\geq0{,}9.$$
Portée de l'inégalité
- L'inégalité est valable pour toute variable aléatoire dont on connaît seulement l'espérance et la variance. C'est sa force ; en contrepartie, la majoration est souvent grossière.
- Si $\delta\leq\sigma$, on a $\dfrac{V}{\delta^2}\geq1$ et l'inégalité n'apporte aucune information.
- L'inégalité reste vraie avec $|X-\mu|>\delta$ à la place de $|X-\mu|\geq\delta$, puisque $\{|X-\mu|>\delta\}\subset\{|X-\mu|\geq\delta\}$.
6.Inégalité de concentration et loi faible des grands nombres
Inégalité de concentration
Soit $M_n$ la moyenne d'un échantillon de taille $n$ de la loi d'une variable aléatoire $X$ d'espérance $\mu$ et de variance $V$. Pour tout réel $\delta>0$ : $$P\big(|M_n-\mu|\geq\delta\big)\leq\frac{V}{n\delta^2}.$$
À partir de Bienaymé-Tchebychev (exigible)
D'après la section précédente, $E(M_n)=\mu$ et $V(M_n)=\dfrac Vn$.
On applique l'inégalité de Bienaymé-Tchebychev à la variable $M_n$ : pour tout $\delta>0$, $$P\big(|M_n-E(M_n)|\geq\delta\big)\leq\frac{V(M_n)}{\delta^2},$$ c'est-à-dire $$P\big(|M_n-\mu|\geq\delta\big)\leq\frac{V/n}{\delta^2}=\frac{V}{n\delta^2}.$$
Déterminer une taille d'échantillon
On veut que la moyenne $M_n$ soit à une distance inférieure à $\delta$ de $\mu$ (la précision) avec une probabilité au moins $1-\alpha$ ($\alpha$ est le risque).
- Identifier $\mu$, $V$ (ou un majorant de $V$), $\delta$ et $\alpha$.
- Il suffit que $\dfrac{V}{n\delta^2}\leq\alpha$, c'est-à-dire $n\geq\dfrac{V}{\alpha\delta^2}$.
- Prendre pour $n$ le plus petit entier supérieur ou égal à $\dfrac{V}{\alpha\delta^2}$ : alors $P(|M_n-\mu|\geq\delta)\leq\alpha$, donc $P(|M_n-\mu|<\delta)\geq1-\alpha$.
La taille trouvée est suffisante, pas forcément la plus petite possible, car l'inégalité est une simple majoration.
Moyenne des lancers d'un dé
Combien de lancers d'un dé équilibré suffisent pour que la moyenne des résultats soit à moins de $0{,}1$ de $3{,}5$ avec une probabilité au moins $0{,}95$ ?
Ici $\mu=3{,}5$, $V=\frac{35}{12}$, $\delta=0{,}1$, $\alpha=0{,}05$. Il suffit que $$n\geq\frac{35/12}{0{,}05\times0{,}1^2}=\frac{35}{12}\times2000=\frac{70\,000}{12}\approx5833{,}3.$$ Avec $n=5834$ lancers, $P(|M_n-3{,}5|<0{,}1)\geq0{,}95$.
Estimer une proportion inconnue
On veut estimer la proportion $p$ d'électeurs favorables à un projet par la fréquence $M_n$ observée dans un échantillon de $n$ personnes, assimilé à un échantillon de la loi de Bernoulli de paramètre $p$. Ici $\mu=p$ et $V=p(1-p)$, inconnue.
Pour tout réel $p$ : $\frac14-p(1-p)=p^2-p+\frac14=\left(p-\frac12\right)^2\geq0$, donc $V\leq\frac14$.
Pour une précision $\delta=0{,}02$ et un risque $\alpha=0{,}05$ : $$P(|M_n-p|\geq0{,}02)\leq\frac{p(1-p)}{n\times0{,}02^2}\leq\frac{0{,}25}{0{,}0004\,n}.$$ Il suffit que $\dfrac{0{,}25}{0{,}0004\,n}\leq0{,}05$, soit $n\geq\dfrac{0{,}25}{0{,}05\times0{,}0004}=12\,500$.
Un échantillon de $12\,500$ personnes garantit, quelle que soit la valeur de $p$, une estimation à moins de $0{,}02$ près avec une probabilité au moins $0{,}95$.
Loi faible des grands nombres
Soit $(X_1,\dots,X_n)$ un échantillon de la loi d'une variable aléatoire $X$ d'espérance $\mu$, et $M_n$ sa moyenne. Pour tout réel $\delta>0$ : $$\lim_{n\to+\infty}P\big(|M_n-\mu|\geq\delta\big)=0.$$ Autrement dit, aussi petite que soit la précision $\delta$, la probabilité que la moyenne de l'échantillon s'écarte de $\mu$ d'au moins $\delta$ tend vers $0$ quand la taille de l'échantillon augmente.
Loi faible des grands nombres
Notons $V$ la variance de $X$ et fixons $\delta>0$. Pour tout $n\geq1$, une probabilité est positive et l'inégalité de concentration donne : $$0\leq P\big(|M_n-\mu|\geq\delta\big)\leq\frac{V}{n\delta^2}.$$ Comme $V$ et $\delta$ sont fixés, $\lim\limits_{n\to+\infty}\dfrac{V}{n\delta^2}=0$. D'après le théorème des gendarmes, $\lim\limits_{n\to+\infty}P(|M_n-\mu|\geq\delta)=0$.
Interprétation et simulation
Appliquée à une loi de Bernoulli de paramètre $p$, la loi des grands nombres dit que la fréquence d'un événement sur $n$ répétitions indépendantes se rapproche de sa probabilité $p$ quand $n$ devient grand. Elle justifie l'estimation d'une probabilité par une fréquence observée, et l'usage de simulations : en Python, on répète par une boucle une expérience aléatoire un grand nombre de fois et on calcule la moyenne des résultats pour approcher l'espérance.
Il existe une « loi forte des grands nombres », qui affirme une convergence plus forte de $M_n$ vers $\mu$ : elle est hors programme.
Pas de « compensation »
La loi des grands nombres ne dit pas qu'après une série de Pile, Face devient plus probable. Les lancers sont indépendants : chaque lancer a toujours une probabilité $\frac12$ de donner Pile.
Elle ne dit pas non plus que la somme $S_n$ se rapproche de $n\mu$ : au contraire $\sigma(S_n)=\sqrt n\,\sigma(X)$ augmente. C'est l'écart relatif $\dfrac{S_n-n\mu}{n}=M_n-\mu$ qui devient petit, parce qu'on divise par $n$.