Chaîne à deux états : énoncé (Maths expertes)
Chaîne à deux états
Soit une chaîne de Markov à deux états de matrice de transition $$P=\begin{pmatrix} 1-a & a \\ b & 1-b \end{pmatrix}\quad\text{avec }0<a+b<2.$$ Alors :
- la chaîne admet une unique distribution invariante $\pi=\begin{pmatrix} \dfrac{b}{a+b} & \dfrac{a}{a+b} \end{pmatrix}$ ;
- quelle que soit la distribution initiale, la suite $(\pi_n)$ converge vers $\pi$.
La condition $0<a+b<2$ est réalisée en particulier dès que $a$ et $b$ sont dans $]0;1[$.
Démonstration : Chaîne à deux états
Chaîne à deux états
Distribution invariante. Soit $\pi=\begin{pmatrix} p & 1-p \end{pmatrix}$ avec $p\in[0;1]$. Le premier coefficient de $\pi P$ vaut $(1-a)p+b(1-p)$ ; le second vaut alors $1$ moins le premier, car les coefficients de $\pi P$ ont pour somme $1$ (chaque ligne de $P$ a pour somme $1$). Donc $$\pi P=\pi\iff(1-a)p+b(1-p)=p\iff b=(a+b)p\iff p=\frac{b}{a+b},$$ puisque $a+b\neq 0$. Ce réel est dans $[0;1]$ car $0\leqslant b\leqslant a+b$. La distribution invariante existe et est unique.
Convergence. Notons $\pi_n=\begin{pmatrix} p_n & 1-p_n \end{pmatrix}$. La relation $\pi_{n+1}=\pi_nP$ donne $$p_{n+1}=(1-a)p_n+b(1-p_n)=(1-a-b)p_n+b.$$ Avec $\ell=\dfrac{b}{a+b}$, on a $\ell=(1-a-b)\ell+b$. Par soustraction, $p_{n+1}-\ell=(1-a-b)(p_n-\ell)$ : la suite $(p_n-\ell)$ est géométrique de raison $q=1-a-b$, donc $$p_n=\ell+(1-a-b)^n(p_0-\ell).$$ Comme $0<a+b<2$, on a $-1<q<1$, donc $q^n\to 0$ et $p_n\to\ell$. Par suite $1-p_n\to 1-\ell=\dfrac{a}{a+b}$, et $(\pi_n)$ converge vers $\pi$.
S’entraîner
- Deux formules d'abonnement
- Prix de trois articles et inverse d'une matrice 3×3
- Vélos en libre-service entre trois stations
- Pⁿ explicite pour une machine qui tombe en panne
- Passes entre quatre joueurs