Soit $E$ un espace de dimension $n \geq 1$ et $u \in \mathcal{L}(E)$. On note $u^0 = \mathrm{id}_E$ et $u^{k+1} = u \circ u^k$. On suppose qu'il existe un entier $p \geq 1$ tel que $u^p = 0$ et $u^{p-1} \neq 0$.
- Montrer qu'il existe $x \in E$ tel que la famille $(x, u(x), \dots, u^{p-1}(x))$ soit libre.
- En déduire que $p \leq n$, puis que $u^n = 0$.
- On suppose $p = n$. Montrer que $(x, u(x), \dots, u^{n-1}(x))$ est une base de $E$, puis que $\operatorname{rg} u = n - 1$ et $\operatorname{Ker} u = \operatorname{Vect}(u^{n-1}(x))$.
Choisir $x$ tel que $u^{p-1}(x) \neq 0$.
Supposer une relation de liaison non triviale et considérer le plus petit indice $j$ dont le coefficient est non nul ; appliquer $u^{p-1-j}$.
Dans la dernière question, l'image de la base est $(u(x), \dots, u^{n-1}(x), 0)$.
1. Comme $u^{p-1} \neq 0$, il existe $x \in E$ tel que $u^{p-1}(x) \neq 0$. Supposons qu'il existe $(\lambda_0, \dots, \lambda_{p-1}) \neq (0, \dots, 0)$ tel que $\sum_{k=0}^{p-1} \lambda_k u^k(x) = 0$. Soit $j$ le plus petit indice tel que $\lambda_j \neq 0$ : la relation s'écrit $\sum_{k=j}^{p-1} \lambda_k u^k(x) = 0$. On lui applique l'application linéaire $u^{p-1-j}$ : $$\sum_{k=j}^{p-1} \lambda_k u^{k + p - 1 - j}(x) = 0.$$ Pour $k > j$, on a $k + p - 1 - j \geq p$, donc $u^{k+p-1-j} = u^{k-1-j} \circ u^p = 0$. Il reste $\lambda_j u^{p-1}(x) = 0$ avec $u^{p-1}(x) \neq 0$, d'où $\lambda_j = 0$ : contradiction. La famille $(x, u(x), \dots, u^{p-1}(x))$ est libre.
2. C'est une famille libre de $p$ vecteurs de $E$, de dimension $n$ : par le lemme fondamental, $p \leq n$. Alors $u^n = u^{n-p} \circ u^p = 0$.
3. Si $p = n$, la famille $\mathcal{B} = (x, u(x), \dots, u^{n-1}(x))$ est libre et compte $n = \dim E$ vecteurs : c'est une base de $E$.
L'image de $\mathcal{B}$ par $u$ est $(u(x), u^2(x), \dots, u^{n-1}(x), u^n(x))$ avec $u^n(x) = 0$. Donc $\operatorname{Im} u = \operatorname{Vect}(u(x), \dots, u^{n-1}(x))$. Cette famille de $n - 1$ vecteurs est une sous-famille de $\mathcal{B}$, donc libre : $\operatorname{rg} u = n - 1$.
Par le théorème du rang, $\dim \operatorname{Ker} u = n - (n - 1) = 1$. Or $u(u^{n-1}(x)) = u^n(x) = 0$ et $u^{n-1}(x) \neq 0$ : ce vecteur engendre une droite contenue dans $\operatorname{Ker} u$, de même dimension, donc $\operatorname{Ker} u = \operatorname{Vect}(u^{n-1}(x))$.
$p \leq n$, donc $u^n = 0$ ; si $p = n$ : $\operatorname{rg} u = n-1$