Réduction des endomorphismes

Soit $x\in\mathrm{Ker}\,v$. Alors $v(u(x))=u(v(x))=u(0)=0$, donc $u(x)\in\mathrm{Ker}\,v$.

Soit $y\in\mathrm{Im}\,v$ : il existe $x\in E$ tel que $y=v(x)$. Alors $u(y)=u(v(x))=v(u(x))\in\mathrm{Im}\,v$.

La $j$-ème colonne de $\mathrm{Mat}_{\mathcal B}(u)$ contient les coordonnées de $u(e_j)$. Si $F$ est stable, pour $j\leq p$, $u(e_j)\in F=\mathrm{Vect}(e_1,\dots,e_p)$, donc ses coordonnées sur $e_{p+1},\dots,e_n$ sont nulles : le bloc inférieur gauche est nul, et $A$ contient les coordonnées des $u_F(e_j)$ dans $(e_1,\dots,e_p)$. Réciproquement, si ce bloc est nul, $u(e_j)\in F$ pour tout $j\leq p$, donc par linéarité $u(F)\subset F$. Le même raisonnement sur les colonnes d'indices $j>p$ traite $G$, puis le cas de $r$ sous-espaces.

Existence d'un annulateur non nul : $\dim\mathcal L(E)=n^2$, donc la famille $(u^0,u^1,\dots,u^{n^2})$, qui compte $n^2+1$ éléments, est liée. Une relation non triviale $\sum_{k=0}^{n^2}a_ku^k=0$ fournit $P=\sum a_kX^k\neq 0$ annulateur.

Générateur : parmi les annulateurs non nuls, on en choisit un de degré minimal $d$, que l'on divise par son coefficient dominant ; on le note $\pi$. Tout multiple de $\pi$ est annulateur, car $(Q\pi)(u)=Q(u)\circ\pi(u)=0$. Réciproquement, soit $P$ annulateur ; la division euclidienne donne $P=Q\pi+R$ avec $\deg R<d$. Alors $R(u)=P(u)-Q(u)\circ\pi(u)=0$ ; par minimalité de $d$, $R=0$, donc $\pi$ divise $P$.

Unicité : deux polynômes unitaires engendrant le même idéal se divisent mutuellement, donc sont associés ; étant unitaires, ils sont égaux.

Si $A=SBS^{-1}$, alors $P(A)=SP(B)S^{-1}$, donc $P(A)=0\iff P(B)=0$ : $A$ et $B$ ont le même idéal annulateur.

Liberté : une relation non triviale $\sum_{k=0}^{d-1}a_ku^k=0$ donnerait un annulateur non nul de degré $<d$, ce qui contredit la minimalité.

Caractère générateur : pour $P\in\mathbb K[X]$, la division euclidienne $P=Q\pi_u+R$ avec $\deg R\leq d-1$ donne $P(u)=R(u)\in\mathrm{Vect}(\mathrm{Id}_E,u,\dots,u^{d-1})$.

Cas $r=2$. Soit $P=P_1P_2$ avec $P_1$ et $P_2$ premiers entre eux. Par Bézout, il existe $A_1,A_2\in\mathbb K[X]$ tels que $A_1P_1+A_2P_2=1$, d'où $$A_1(u)\circ P_1(u)+A_2(u)\circ P_2(u)=\mathrm{Id}_E.\qquad(\ast)$$

• Inclusions : $P(u)=P_2(u)\circ P_1(u)=P_1(u)\circ P_2(u)$, donc $\mathrm{Ker}\,P_1(u)$ et $\mathrm{Ker}\,P_2(u)$ sont inclus dans $\mathrm{Ker}\,P(u)$.
• Intersection : si $x\in\mathrm{Ker}\,P_1(u)\cap\mathrm{Ker}\,P_2(u)$, $(\ast)$ donne $x=A_1(u)\big(P_1(u)(x)\big)+A_2(u)\big(P_2(u)(x)\big)=0$.
• Somme : soit $x\in\mathrm{Ker}\,P(u)$. On pose $x_1=A_2(u)\circ P_2(u)(x)$ et $x_2=A_1(u)\circ P_1(u)(x)$ ; par $(\ast)$, $x=x_1+x_2$. Puis $P_1(u)(x_1)=(A_2P_1P_2)(u)(x)=A_2(u)\big(P(u)(x)\big)=0$, donc $x_1\in\mathrm{Ker}\,P_1(u)$ ; de même $P_2(u)(x_2)=A_1(u)\big(P(u)(x)\big)=0$.

Donc $\mathrm{Ker}\,P(u)=\mathrm{Ker}\,P_1(u)\oplus\mathrm{Ker}\,P_2(u)$.

Récurrence sur $r\geq 2$. Supposons le résultat vrai pour $r-1$ polynômes. $P_r$ est premier avec chacun des $P_1,\dots,P_{r-1}$, donc avec leur produit $Q=P_1\cdots P_{r-1}$. Le cas $r=2$ donne $\mathrm{Ker}\,P(u)=\mathrm{Ker}\,Q(u)\oplus\mathrm{Ker}\,P_r(u)$, et l'hypothèse de récurrence donne $\mathrm{Ker}\,Q(u)=\bigoplus_{i=1}^{r-1}\mathrm{Ker}\,P_i(u)$. On conclut par associativité de la somme directe.

Les polynômes $X-\lambda_1,\dots,X-\lambda_p$ sont deux à deux premiers entre eux, car les $\lambda_i$ sont distincts. Le lemme des noyaux appliqué à $P=\prod_{i=1}^p(X-\lambda_i)$ donne $$\mathrm{Ker}\,P(u)=\bigoplus_{i=1}^p\mathrm{Ker}(u-\lambda_i\mathrm{Id}_E)=\bigoplus_{i=1}^pE_{\lambda_i}(u),$$ donc la somme des $E_{\lambda_i}(u)$ est directe.

Si $\sum_{i=1}^pa_ix_i=0$, chaque $a_ix_i$ appartient à $E_{\lambda_i}(u)$ ; la somme étant directe, $a_ix_i=0$ pour tout $i$, et comme $x_i\neq 0$, $a_i=0$. Enfin, une famille libre de $E$ a au plus $n$ éléments.

Par récurrence, $u^k(x)=\lambda^kx$ pour tout $k\in\mathbb N$ ; par linéarité, $P(u)(x)=\sum_k a_k\lambda^kx=P(\lambda)x$.

1. Si $P(u)=0$, alors $P(\lambda)x=0$ avec $x\neq 0$, donc $P(\lambda)=0$.

2. Par 1, toute valeur propre est racine de $\pi_u$. Réciproquement, soit $\lambda\in\mathbb K$ tel que $\pi_u(\lambda)=0$ ; on écrit $\pi_u=(X-\lambda)Q$ avec $\deg Q<\deg\pi_u$. Par minimalité, $Q(u)\neq 0$ : il existe $y\in E$ tel que $x=Q(u)(y)\neq 0$. Alors $(u-\lambda\mathrm{Id}_E)(x)=\pi_u(u)(y)=0$, donc $x$ est un vecteur propre associé à $\lambda$.

Notons $M=XI_n-A=(m_{ij})$, avec $m_{ii}=X-a_{ii}$ et $m_{ij}=-a_{ij}$ si $i\neq j$. Dans $\det M=\sum_{\sigma\in\mathfrak S_n}\varepsilon(\sigma)\prod_{i=1}^nm_{\sigma(i)i}$, chaque terme est de degré au plus égal au nombre de points fixes de $\sigma$. Si $\sigma\neq\mathrm{id}$, $\sigma$ a au plus $n-2$ points fixes (si elle déplace $i$, elle déplace aussi $\sigma(i)$). Les termes de degrés $n$ et $n-1$ proviennent donc du seul produit $\prod_{i=1}^n(X-a_{ii})=X^n-(a_{11}+\cdots+a_{nn})X^{n-1}+\cdots$. Le coefficient constant est $\chi_A(0)=\det(-A)=(-1)^n\det A$. Le cas triangulaire vient du déterminant d'une matrice triangulaire, et $\chi_{A^\top}=\det\big((XI_n-A)^\top\big)=\chi_A$.

Soit $A$ une matrice de $u$ et $\lambda\in\mathbb K$ : $\lambda\in\mathrm{Sp}(u)\iff\lambda I_n-A$ non inversible $\iff\det(\lambda I_n-A)=0\iff\chi_A(\lambda)=0$. Sur $\mathbb C$, $\chi_u$ est de degré $n\geq 1$, donc admet une racine par le théorème de d'Alembert-Gauss.

1. Dans une base de $F$ complétée en une base de $E$, $\mathrm{Mat}(u)=\begin{pmatrix}A&B\\0&C\end{pmatrix}$ avec $A=\mathrm{Mat}(u_F)$ de taille $p$. Alors $XI_n-\mathrm{Mat}(u)=\begin{pmatrix}XI_p-A&-B\\0&XI_{n-p}-C\end{pmatrix}$ est triangulaire par blocs, donc $\chi_u=\chi_A\,\chi_C=\chi_{u_F}\,\chi_C$.

2. $E_\lambda(u)\neq\{0\}$, donc $d=\dim E_\lambda(u)\geq 1$. $E_\lambda(u)$ est stable par $u$ et $u$ y induit $\lambda\mathrm{Id}$, de polynôme caractéristique $(X-\lambda)^d$. Par 1, $(X-\lambda)^d$ divise $\chi_u$, donc $d\leq m_\lambda$.

Soit $M=XI_n-C_P$, de lignes $L_1,\dots,L_n$. L'opération $L_1\leftarrow L_1+XL_2+X^2L_3+\cdots+X^{n-1}L_n$ ne change pas le déterminant. Pour $1\leq j\leq n-1$, la colonne $j$ de $M$ contient $X$ en ligne $j$, $-1$ en ligne $j+1$ et $0$ ailleurs : le nouveau coefficient $(1,j)$ vaut $X^{j-1}\cdot X+X^j\cdot(-1)=0$. Le nouveau coefficient $(1,n)$ vaut $a_0+a_1X+\cdots+a_{n-2}X^{n-2}+X^{n-1}(X+a_{n-1})=P$.

En développant selon la première ligne, $\chi_{C_P}=(-1)^{1+n}P\,\det N$, où $N$ s'obtient en supprimant la ligne $1$ et la colonne $n$ de $M$. $N$ est triangulaire supérieure de diagonale $(-1,\dots,-1)$, donc $\det N=(-1)^{n-1}$ et $\chi_{C_P}=(-1)^{2n}P=P$.

Il suffit de montrer que $\chi_u(u)(x)=0$ pour tout $x\neq 0$. Soit $x\neq 0$ et $p$ le plus grand entier tel que $(x,u(x),\dots,u^{p-1}(x))$ soit libre ; on a $1\leq p\leq n$. La famille $(x,\dots,u^p(x))$ étant liée, $u^p(x)\in F=\mathrm{Vect}(x,\dots,u^{p-1}(x))$ : il existe $a_0,\dots,a_{p-1}$ tels que $u^p(x)=-\sum_{k=0}^{p-1}a_ku^k(x)$.

$F$ est stable par $u$ (l'image de chaque $u^k(x)$, $k\leq p-1$, est dans $F$), et la matrice de $u_F$ dans la base $(x,u(x),\dots,u^{p-1}(x))$ est la matrice compagnon de $Q=X^p+a_{p-1}X^{p-1}+\cdots+a_0$. Donc $\chi_{u_F}=Q$, et $$Q(u)(x)=u^p(x)+\sum_{k=0}^{p-1}a_ku^k(x)=0.$$ Comme $\chi_{u_F}$ divise $\chi_u$, on écrit $\chi_u=RQ$, et $\chi_u(u)(x)=R(u)\big(Q(u)(x)\big)=0$.

La somme $S=\sum_{\lambda\in\mathrm{Sp}(u)}E_\lambda(u)$ est toujours directe (section 3), donc $\dim S=\sum_\lambda\dim E_\lambda(u)$.

(i)$\Rightarrow$(ii). Une base de vecteurs propres est contenue dans $S$, donc $E=S$, et la somme est directe.

(ii)$\Rightarrow$(i). En concaténant des bases des $E_\lambda(u)$, on obtient une base de $E$ adaptée à la somme directe, formée de vecteurs propres.

(ii)$\Leftrightarrow$(iii). $S$ est un sous-espace de $E$ : $S=E$ si et seulement si $\dim S=\dim E$.

(i)$\Rightarrow$(iv). Dans une base de vecteurs propres, la matrice $D$ de $u$ est diagonale, donc $\chi_u=\chi_D$ est scindé et $\sum_\lambda m_\lambda=n$. Par (iii), $\sum_\lambda\dim E_\lambda(u)=n$. Comme $\dim E_\lambda(u)\leq m_\lambda$ pour chaque $\lambda$, l'égalité des sommes impose $\dim E_\lambda(u)=m_\lambda$ pour tout $\lambda$.

(iv)$\Rightarrow$(iii). $\chi_u$ étant scindé de degré $n$, $\sum_\lambda m_\lambda=n$, donc $\sum_\lambda\dim E_\lambda(u)=n$.

(i)$\Rightarrow$(iii). Soit $(e_1,\dots,e_n)$ une base de vecteurs propres, $u(e_j)=\mu_je_j$, et $P=\prod_{\lambda\in\mathrm{Sp}(u)}(X-\lambda)$. Pour tout $j$, $P(u)(e_j)=P(\mu_j)e_j=0$ car $\mu_j\in\mathrm{Sp}(u)$. Donc $P(u)=0$ et $\pi_u$ divise $P$. Mais $\pi_u$ admet chaque valeur propre pour racine, donc $P$ divise $\pi_u$. Ces deux polynômes unitaires sont égaux, et $\pi_u$ est scindé à racines simples.

(iii)$\Rightarrow$(ii). Immédiat : $\pi_u$ est annulateur.

(ii)$\Rightarrow$(i). Soit $P=c\prod_{j=1}^r(X-\alpha_j)$ annulateur, $c\neq 0$, les $\alpha_j$ deux à deux distincts. Les $X-\alpha_j$ sont deux à deux premiers entre eux, et le lemme des noyaux donne $$E=\mathrm{Ker}\,P(u)=\bigoplus_{j=1}^r\mathrm{Ker}(u-\alpha_j\mathrm{Id}_E).$$ Chaque $\mathrm{Ker}(u-\alpha_j\mathrm{Id}_E)$ non nul est un sous-espace propre. En concaténant des bases des noyaux non nuls, on obtient une base de $E$ formée de vecteurs propres.

Les $n$ valeurs propres $\lambda_1,\dots,\lambda_n$ vérifient $\dim E_{\lambda_i}(u)\geq 1$, donc $\sum_i\dim E_{\lambda_i}(u)\geq n$. Cette somme est aussi $\leq n$, car la somme des $E_{\lambda_i}(u)$ est directe dans $E$. D'où l'égalité, qui donne la diagonalisabilité, et chaque dimension vaut $1$.

Sens direct. Si $\mathrm{Mat}(u)=T$ est triangulaire supérieure, $\chi_u=\chi_T=\prod_{i=1}^n(X-t_{ii})$ est scindé.

Réciproque, par récurrence sur $n$, sous forme matricielle : « toute $A\in\mathcal M_n(\mathbb K)$ dont le polynôme caractéristique est scindé est semblable à une matrice triangulaire supérieure ». Pour $n=1$, c'est clair. Soit $n\geq 2$ ; supposons la propriété vraie au rang $n-1$, et soit $A\in\mathcal M_n(\mathbb K)$ avec $\chi_A$ scindé. $\chi_A$ a une racine $\lambda\in\mathbb K$ ; soit $e_1$ un vecteur propre associé, complété en une base $(e_1,\dots,e_n)$ de $\mathbb K^n$. Si $Q$ est la matrice de passage de la base canonique à cette base, $$Q^{-1}AQ=\begin{pmatrix}\lambda&L\\0&A'\end{pmatrix},\qquad A'\in\mathcal M_{n-1}(\mathbb K),\ L\in\mathcal M_{1,n-1}(\mathbb K).$$ Par le déterminant triangulaire par blocs, $\chi_A=(X-\lambda)\chi_{A'}$. $\chi_A$ étant scindé, $\chi_{A'}$ l'est aussi (par unicité de la décomposition en facteurs irréductibles). Par hypothèse de récurrence, il existe $S\in\mathrm{GL}_{n-1}(\mathbb K)$ telle que $T'=S^{-1}A'S$ soit triangulaire supérieure. On pose $R=Q\begin{pmatrix}1&0\\0&S\end{pmatrix}$, inversible ; par produit par blocs, $$R^{-1}AR=\begin{pmatrix}1&0\\0&S^{-1}\end{pmatrix}\begin{pmatrix}\lambda&L\\0&A'\end{pmatrix}\begin{pmatrix}1&0\\0&S\end{pmatrix}=\begin{pmatrix}\lambda&LS\\0&T'\end{pmatrix},$$ qui est triangulaire supérieure.

Sur $\mathbb C$, tout polynôme non constant est scindé (d'Alembert-Gauss).

(i)$\Rightarrow$(ii). Soit $p$ tel que $u^p=0$. Les noyaux itérés forment une suite croissante $\{0\}=\mathrm{Ker}\,u^0\subset\mathrm{Ker}\,u\subset\cdots\subset\mathrm{Ker}\,u^p=E$ (si $u^k(x)=0$, alors $u^{k+1}(x)=0$). On construit une base $(e_1,\dots,e_n)$ adaptée : une base de $\mathrm{Ker}\,u$, complétée en une base de $\mathrm{Ker}\,u^2$, etc. Soit $e_j$ un vecteur ajouté à l'étape $k+1$ : $e_j\in\mathrm{Ker}\,u^{k+1}$, donc $u^k(u(e_j))=0$ et $u(e_j)\in\mathrm{Ker}\,u^k$, engendré par des $e_i$ d'indices $i<j$. La colonne $j$ n'a donc de coefficients non nuls que sur les lignes $i<j$ : la matrice est triangulaire supérieure stricte.

(ii)$\Rightarrow$(iii). Si $T$ est triangulaire supérieure de diagonale nulle, $\chi_u=\chi_T=X^n$.

(iii)$\Rightarrow$(i). Par Cayley-Hamilton, $u^n=\chi_u(u)=0$.

Indice : $\pi_u$ divise $X^q$, donc $\pi_u=X^k$ avec $k\leq q$ ; si $k<q$, $X^{q-1}$ serait multiple de $\pi_u$, donc annulateur, ce qui est exclu. Donc $\pi_u=X^q$. Par Cayley-Hamilton, $X^q$ divise $\chi_u=X^n$, donc $q\leq n$.

1. Les polynômes $(X-\lambda_i)^{m_i}$ sont deux à deux premiers entre eux (pas de racine commune), et leur produit $\chi_u$ annule $u$ (Cayley-Hamilton). Le lemme des noyaux donne $E=\bigoplus_iF_i$. Chaque $F_i$ est le noyau d'un polynôme en $u$, donc est stable par $u$.

2. Soit $n_i=u_{F_i}-\lambda_i\mathrm{Id}_{F_i}$. Pour $x\in F_i$, $n_i^{m_i}(x)=(u-\lambda_i\mathrm{Id}_E)^{m_i}(x)=0$. Donc $n_i$ est nilpotent.

3. Soit $d_i=\dim F_i$. Comme $n_i$ est nilpotent, $\chi_{n_i}=X^{d_i}$, et $$\chi_{u_{F_i}}(X)=\det\big((X-\lambda_i)\mathrm{Id}-n_i\big)=\chi_{n_i}(X-\lambda_i)=(X-\lambda_i)^{d_i}.$$ Dans une base adaptée à $E=\bigoplus F_i$, la matrice de $u$ est diagonale par blocs, donc $\chi_u=\prod_{i=1}^r\chi_{u_{F_i}}=\prod_{i=1}^r(X-\lambda_i)^{d_i}$. Par unicité de la décomposition en facteurs irréductibles, $d_i=m_i$ pour tout $i$.

Forme matricielle : on choisit dans chaque $F_i$ une base où la matrice $N_i$ de $n_i$ est triangulaire supérieure stricte (section 6) ; la matrice de $u_{F_i}$ y vaut $\lambda_iI_{m_i}+N_i$, et on concatène ces bases.

1. $E_{\lambda_i}(u)\subset F_i$ et $\dim F_i=m_i$, donc $F_i=E_{\lambda_i}(u)$ équivaut à $\dim E_{\lambda_i}(u)=m_i$ ; on applique la caractérisation (iv) de la diagonalisabilité. Enfin $F_i=E_{\lambda_i}(u)$ signifie exactement $n_i=0$.

2. Si $u$ est trigonalisable, $\chi_u$ est scindé et annulateur. Réciproquement, soit $P=c\prod_{j=1}^s(X-\alpha_j)^{k_j}$ annulateur, $c\neq 0$, les $\alpha_j$ distincts. Par le lemme des noyaux, $E=\bigoplus_jG_j$ avec $G_j=\mathrm{Ker}(u-\alpha_j\mathrm{Id}_E)^{k_j}$, stable par $u$. Sur chaque $G_j$ non nul, $u_{G_j}-\alpha_j\mathrm{Id}$ est nilpotent, donc admet une matrice triangulaire supérieure stricte, et $u_{G_j}$ une matrice triangulaire supérieure. En concaténant ces bases, la matrice de $u$ est diagonale par blocs triangulaires supérieurs, donc triangulaire supérieure.

$S$ est un sous-espace vectoriel de $\mathbb K^{\mathbb N}$, et $(u_n)\mapsto(u_0,\dots,u_{p-1})$ est un isomorphisme de $S$ sur $\mathbb K^p$ : une suite de $S$ est déterminée par ses $p$ premiers termes, qui sont arbitraires. Donc $\dim S=p$.

Pour $(u_n)\in S$, on pose $U_n=(u_n,u_{n+1},\dots,u_{n+p-1})^\top$. Alors $U_{n+1}=MU_n$ avec $$M=\begin{pmatrix}0&1&0&\cdots&0\\0&0&1&\ddots&\vdots\\\vdots&&\ddots&\ddots&0\\0&\cdots&\cdots&0&1\\a_0&a_1&\cdots&\cdots&a_{p-1}\end{pmatrix}.$$ $M$ est la transposée de la matrice compagnon de $P$ (les coefficients de $P$ sont les $-a_k$, d'où la dernière colonne $(a_0,\dots,a_{p-1})$ de $C_P$), donc $\chi_M=\chi_{C_P}=P$. $P$ étant scindé à racines simples, $M$ est diagonalisable : $M=QDQ^{-1}$ avec $D=\mathrm{diag}(r_1,\dots,r_p)$. Alors $U_n=M^nU_0=QD^nQ^{-1}U_0$, et la première coordonnée $u_n$ est combinaison linéaire, à coefficients indépendants de $n$, des $r_i^n$.

Les $p$ suites $(r_i^n)_n$ appartiennent à $S$, car $P(r_i)=0$ donne $r_i^{n+p}=\sum_{k=0}^{p-1}a_kr_i^{n+k}$, et elles engendrent $S$. Comme $\dim S=p$, elles en forment une base.

Soit $(e_1,\dots,e_n)$ une base de vecteurs propres, $u(e_i)=\lambda_ie_i$, les $\lambda_i$ distincts ; chaque $E_{\lambda_i}(u)=\mathrm{Vect}(e_i)$ est une droite. Soit $v\in\mathcal C(u)$. Les sous-espaces propres de $u$ sont stables par $v$, donc $v(e_i)=\mu_ie_i$ pour un $\mu_i\in\mathbb K$. Par interpolation de Lagrange, il existe $L\in\mathbb K_{n-1}[X]$ tel que $L(\lambda_i)=\mu_i$ pour tout $i$. Alors $L(u)(e_i)=L(\lambda_i)e_i=\mu_ie_i=v(e_i)$ pour tout $i$, donc $v=L(u)\in\mathbb K[u]$. L'inclusion $\mathbb K[u]\subset\mathcal C(u)$ est claire. Enfin $\pi_u=\prod_{i=1}^n(X-\lambda_i)$ est de degré $n$, donc $\dim\mathbb K[u]=n$, de base $(\mathrm{Id}_E,\dots,u^{n-1})$.

Le sens direct a été vu en section 3. Réciproquement, si $v$ stabilise chaque $E_{\lambda_i}(u)$, pour $x\in E_{\lambda_i}(u)$ : $u(v(x))=\lambda_iv(x)=v(\lambda_ix)=v(u(x))$. Les applications linéaires $u\circ v$ et $v\circ u$ coïncident sur chaque $E_{\lambda_i}(u)$, donc sur leur somme $E$. La description matricielle découle de la traduction de la stabilité (section 1), et l'espace des matrices $\mathrm{diag}(V_1,\dots,V_r)$ est de dimension $\sum d_i^2$.