Endomorphismes d'un espace euclidien

En première année, le produit scalaire a servi à mesurer : longueurs, angles, distances à un sous-espace. L'objet central était le vecteur. Cette année, l'objet central devient l'endomorphisme, et la question change de nature : que devient l'algèbre linéaire lorsque l'espace est muni d'un produit scalaire ?

La réponse tient en une construction et deux théorèmes. La construction est celle de l'adjoint $u^{\ast }$, un endomorphisme fabriqué à partir de $u$ et du produit scalaire, dont la matrice en base orthonormée est simplement la transposée de celle de $u$. C'est peu de chose, et pourtant tout le chapitre en découle : chaque famille remarquable d'endomorphismes se définit par une relation entre $u$ et $u^{\ast }$. Si $u^{\ast }=u$, on parle d'endomorphisme autoadjoint ; si $u^{\ast }=u^{-1}$, d'isométrie vectorielle ; si $u^{\ast }=-u$, d'endomorphisme antisymétrique.

Les deux théorèmes disent que ces familles se réduisent parfaitement. Le théorème spectral affirme qu'un endomorphisme autoadjoint est diagonalisable dans une base orthonormée : non seulement il existe une base de vecteurs propres, mais on peut la choisir orthonormée, ce qui est un luxe considérable puisque la matrice de passage est alors orthogonale et son inverse se lit sans calcul. Le théorème de réduction des isométries affirme qu'une isométrie vectorielle s'écrit, dans une base orthonormée bien choisie, comme un empilement de blocs $1$, de blocs $-1$ et de rotations planes : une isométrie n'est rien d'autre que des rotations effectuées simultanément dans des plans deux à deux orthogonaux.

Entre les deux, une section entière est consacrée aux dimensions $2$ et $3$, où la classification est complète et où l'on sait reconnaître, à partir d'une matrice orthogonale, l'axe et l'angle d'une rotation. C'est le passage le plus calculatoire du chapitre, et le plus fréquemment posé à l'oral.

Les notations suivantes valent partout. L'espace $E$ est un espace euclidien de dimension $n⩾1$, son produit scalaire est noté $⟨x,y⟩$ et sa norme $\parallel x\parallel =\sqrt{⟨x,x⟩}$. On note $\mathcal{L}(E)$ l'ensemble des endomorphismes de $E$, ${\mathrm{Id}}_E$ l'identité, ${\mathcal{M}}_n(\mathbb{R})$ les matrices carrées réelles de taille $n$, $I_n$ la matrice identité, ${\mathrm{G}\mathrm{L}}_n(\mathbb{R})$ le groupe des matrices inversibles. La transposée de $A$ est notée $A^{\mathrm{\top }}$, l'adjoint de $u$ est noté $u^{\ast }$. Les matrices symétriques forment ${\mathcal{S}}_n(\mathbb{R})$, les antisymétriques ${\mathcal{A}}_n(\mathbb{R})$. Une base est notée $\mathcal{B}=(e_1,\dots ,e_n)$ et la matrice de $u$ dans $\mathcal{B}$ est ${\mathrm{Mat}}_{\mathcal{B}}(u)$. On conserve $\mathrm{Sp}(u)$, $\mathrm{tr}$, $\mathrm{rg}$, $\mathrm{Vect}$, $\mathrm{Ker}$, $\mathrm{Im}$, $\det$, $\dim$. La projection orthogonale sur $F$ est $p_F$, la réflexion par rapport à l'hyperplan $H$ est $s_H$, et l'on pose une fois pour toutes

$$R_{\theta }=\left(\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right)\mathrm{.}$$

Un mot de vigilance avant de commencer. Presque tous les énoncés du chapitre comportent l'hypothèse « en base orthonormée », et cette hypothèse n'est jamais décorative : la matrice de $u^{\ast }$ n'est la transposée de celle de $u$ que dans une base orthonormée, et un endomorphisme dont la matrice est symétrique dans une base quelconque n'a aucune raison d'être autoadjoint. Chaque fois que vous écrirez une matrice dans ce chapitre, demandez-vous dans quelle base.

Rappels de première année

Espace euclidien, norme, orthogonalité

Bases orthonormées et calcul en coordonnées

Projection orthogonale et distance à un sous-espace

Matrice de Gram

Démonstration. Identité de départ. Par bilinéarité,

$$X^{\mathrm{\top }}GX=\sum _{i=1}^p\sum _{j=1}^p{\lambda }_i{\lambda }_j⟨x_i,x_j⟩=⟨\sum _{i=1}^p{\lambda }_i{x}_i,\sum _{j=1}^p{\lambda }_j{x}_j⟩=\parallel \sum _{i=1}^p{\lambda }_i{x}_i{\parallel }^2\mathrm{.}$$

Formule de la distance. Posons $h=x-p_F(x)$, de sorte que $h\in F^{\perp }$ et $d(x,F)=\parallel h\parallel$. Écrivons $p_F(x)={\sum }_{i=1}^p{\alpha }_i{x}_i$. Dans la matrice $G(x_1,\dots ,x_p,x)$, retranchons à la dernière colonne la combinaison ${\sum }_{i=1}^p{\alpha }_i{C}_i$ : cette opération ne change pas le déterminant. Pour $j⩽p$, le coefficient de la ligne $j$ devient

$$⟨x_j,x⟩-\sum _{i=1}^p{\alpha }_i⟨x_j,x_i⟩=⟨x_j,x-p_F(x)⟩=⟨x_j,h⟩=0,$$

et celui de la dernière ligne devient $⟨x,x⟩-{\sum }_{i=1}^p{\alpha }_i⟨x,x_i⟩=⟨x,h⟩=⟨p_F(x)+h,h⟩=\parallel h{\parallel }^2$. En développant selon cette dernière colonne, il ne reste qu'un terme :

$$\gamma (x_1,\dots ,x_p,x)=\parallel h{\parallel }^2\cdot \gamma (x_1,\dots ,x_p),$$

d'où la formule annoncée puisque $\gamma (x_1,\dots ,x_p)\mathrm{\ne }0$ pour une famille libre. $\mathrm{\square }$

L'adjoint d'un endomorphisme

Le théorème de représentation des formes linéaires

Tout part du résultat suivant, qui exprime que le produit scalaire identifie $E$ à son dual.

Démonstration. Existence. Soit $\mathcal{B}=(e_1,\dots ,e_n)$ une base orthonormée de $E$ et posons $a={\sum }_{i=1}^n\phi (e_i)e_i$. Pour $x={\sum }_{i=1}^n{x}_i{e}_i$, la linéarité de $\phi$ donne $\phi (x)={\sum }_{i=1}^n{x}_i\phi (e_i)$, tandis que le calcul du produit scalaire en base orthonormée donne $⟨x,a⟩={\sum }_{i=1}^n{x}_i\phi (e_i)$. Les deux quantités coïncident.

Unicité. Si $a$ et $b$ conviennent, alors $⟨x,a-b⟩=0$ pour tout $x\in E$, donc $a-b=0_E$ par séparation. $\mathrm{\square }$

Existence et unicité de l'adjoint

Démonstration. Construction. Fixons $y\in E$. L'application ${\phi }_y:x⟼⟨u(x),y⟩$ est une forme linéaire sur $E$, comme composée de l'application linéaire $u$ et de la forme linéaire $⟨\cdot ,y⟩$. D'après le théorème de représentation, il existe un unique vecteur, que l'on note $u^{\ast }(y)$, tel que

$$\mathrm{\forall }x\in E,⟨u(x),y⟩=⟨x,u^{\ast }(y)⟩\mathrm{.}$$

On a ainsi défini une application $u^{\ast }:E\to E$, et la relation voulue est vérifiée par construction.

Linéarité de $u^{\ast }$. Soient $y,z\in E$ et $\lambda \in \mathbb{R}$. Pour tout $x\in E$,

$$⟨x,u^{\ast }(y+\lambda z)⟩=⟨u(x),y+\lambda z⟩=⟨u(x),y⟩+\lambda ⟨u(x),z⟩=⟨x,u^{\ast }(y)⟩+\lambda ⟨x,u^{\ast }(z)⟩=⟨x,u^{\ast }(y)+\lambda u^{\ast }(z)⟩\mathrm{.}$$

Ceci valant pour tout $x$, la séparation donne $u^{\ast }(y+\lambda z)=u^{\ast }(y)+\lambda u^{\ast }(z)$. Donc $u^{\ast }\in \mathcal{L}(E)$.

Unicité. Soient $v$ et $w$ deux endomorphismes vérifiant la relation. Pour tous $x,y$, on a $⟨x,v(y)⟩=⟨u(x),y⟩=⟨x,w(y)⟩$, donc $⟨x,v(y)-w(y)⟩=0$ pour tout $x$, donc $v(y)=w(y)$ pour tout $y$, c'est-à-dire $v=w$. $\mathrm{\square }$

Matrice de l'adjoint en base orthonormée

Démonstration. Notons $\mathcal{B}=(e_1,\dots ,e_n)$, $A=(a_{i,j})={\mathrm{Mat}}_{\mathcal{B}}(u)$ et $B=(b_{i,j})={\mathrm{Mat}}_{\mathcal{B}}(u^{\ast })$. La base étant orthonormée, la $i$-ème coordonnée d'un vecteur $z$ est $⟨z,e_i⟩$, donc

$$a_{i,j}=⟨u(e_j),e_i⟩\text{et}{b}_{i,j}=⟨u^{\ast }(e_j),e_i⟩\mathrm{.}$$

Or, par symétrie du produit scalaire puis par définition de l'adjoint,

$$b_{i,j}=⟨u^{\ast }(e_j),e_i⟩=⟨e_i,u^{\ast }(e_j)⟩=⟨u(e_i),e_j⟩=a_{j,i}\mathrm{.}$$

Ainsi $B=A^{\mathrm{\top }}$. $\mathrm{\square }$

Propriétés algébriques de l'adjoint

Démonstration. Toutes les identités se lisent sur la relation caractéristique, et l'unicité de l'adjoint permet de conclure à chaque fois.

Linéarité. Pour tous $x,y$, $⟨u(x)+v(x),y⟩=⟨x,u^{\ast }(y)⟩+⟨x,v^{\ast }(y)⟩=⟨x,(u^{\ast }+v^{\ast })(y)⟩$, donc $(u+v{)}^{\ast }=u^{\ast }+v^{\ast }$ par unicité. Le cas de $\lambda u$ est identique.

Composée. Pour tous $x,y$,

$$⟨(u\circ v)(x),y⟩=⟨u(v(x)),y⟩=⟨v(x),u^{\ast }(y)⟩=⟨x,v^{\ast }(u^{\ast }(y))⟩=⟨x,(v^{\ast }\circ u^{\ast })(y)⟩\mathrm{.}$$

L'unicité donne $(u\circ v{)}^{\ast }=v^{\ast }\circ u^{\ast }$. L'ordre est inversé, exactement comme pour la transposition d'un produit de matrices.

Involution. Pour tous $x,y$ : $⟨u^{\ast }(x),y⟩=⟨y,u^{\ast }(x)⟩=⟨u(y),x⟩=⟨x,u(y)⟩$, donc $(u^{\ast }{)}^{\ast }=u$.

Inverse. Si $u$ est bijectif, appliquons l'adjoint aux relations $u\circ u^{-1}={\mathrm{Id}}_E$ et $u^{-1}\circ u={\mathrm{Id}}_E$ : on obtient $(u^{-1}{)}^{\ast }\circ u^{\ast }={\mathrm{Id}}_E$ et $u^{\ast }\circ (u^{-1}{)}^{\ast }={\mathrm{Id}}_E$, donc $u^{\ast }$ est bijectif d'inverse $(u^{-1}{)}^{\ast }$.

Trace, déterminant, rang. En base orthonormée, $\mathrm{Mat}(u^{\ast })=A^{\mathrm{\top }}$, et une matrice et sa transposée ont même trace, même déterminant, même rang, et même polynôme caractéristique puisque $\det (X{I}_n-A^{\mathrm{\top }})=\det ((X{I}_n-A{)}^{\mathrm{\top }})=\det (X{I}_n-A)$. $\mathrm{\square }$

Noyau, image et sous-espaces stables

C'est ici que l'adjoint devient un outil de géométrie et non plus seulement une transposée déguisée.

Démonstration. Première égalité. Soit $y\in E$. On a la chaîne d'équivalences

$$y\in \mathrm{Ker}{u}^{\ast }⟺u^{\ast }(y)=0_E⟺\mathrm{\forall }x\in E,⟨x,u^{\ast }(y)⟩=0⟺\mathrm{\forall }x\in E,⟨u(x),y⟩=0⟺y\in (\mathrm{Im}u{)}^{\perp },$$

la deuxième équivalence étant la séparation et la dernière traduisant que $\mathrm{Im}u$ est exactement l'ensemble des $u(x)$.

Seconde égalité. Appliquons la première à l'endomorphisme $u^{\ast }$ : puisque $(u^{\ast }{)}^{\ast }=u$, on obtient $\mathrm{Ker}u=(\mathrm{Im}{u}^{\ast }{)}^{\perp }$. En prenant l'orthogonal des deux membres et en utilisant $(F^{\perp }{)}^{\perp }=F$, il vient $(\mathrm{Ker}u{)}^{\perp }=\mathrm{Im}{u}^{\ast }$. $\mathrm{\square }$

Démonstration. Sens direct. Supposons $u(F)\subseteq F$ et soit $y\in F^{\perp }$. Pour tout $x\in F$, on a $u(x)\in F$, donc

$$⟨x,u^{\ast }(y)⟩=⟨u(x),y⟩=0$$

puisque $y$ est orthogonal à tout vecteur de $F$. Ainsi $u^{\ast }(y)$ est orthogonal à tout $x\in F$, c'est-à-dire $u^{\ast }(y)\in F^{\perp }$. Donc $F^{\perp }$ est stable par $u^{\ast }$.

Réciproque. Supposons $F^{\perp }$ stable par $u^{\ast }$. Le sens direct, appliqué à l'endomorphisme $u^{\ast }$ et au sous-espace $F^{\perp }$, donne que $(F^{\perp }{)}^{\perp }=F$ est stable par $(u^{\ast }{)}^{\ast }=u$. $\mathrm{\square }$

Endomorphismes autoadjoints

Définition et caractérisation matricielle

Démonstration. La matrice de $u^{\ast }$ dans $\mathcal{B}$ est $A^{\mathrm{\top }}$. Deux endomorphismes sont égaux si et seulement si leurs matrices dans une même base le sont, donc $u^{\ast }=u$ équivaut à $A^{\mathrm{\top }}=A$, et $u^{\ast }=-u$ équivaut à $A^{\mathrm{\top }}=-A$. $\mathrm{\square }$

Démonstration. Cas antisymétrique. Pour $x\in E$, $⟨u(x),x⟩=⟨x,u^{\ast }(x)⟩=-⟨x,u(x)⟩=-⟨u(x),x⟩$, donc $2⟨u(x),x⟩=0$. Si $u(x)=\lambda x$ avec $x\mathrm{\ne }{0}_E$, alors $0=⟨u(x),x⟩=\lambda \parallel x{\parallel }^2$, donc $\lambda =0$.

Cas autoadjoint. Soient $x,y\in E$. En développant $⟨u(x+y),x+y⟩=0$ et en utilisant $⟨u(y),x⟩=⟨y,u(x)⟩=⟨u(x),y⟩$ :

$$0=⟨u(x),x⟩+⟨u(x),y⟩+⟨u(y),x⟩+⟨u(y),y⟩=2⟨u(x),y⟩\mathrm{.}$$

Ainsi $⟨u(x),y⟩=0$ pour tout $y$, donc $u(x)=0_E$ pour tout $x$. $\mathrm{\square }$

Exemples fondamentaux

Démonstration. Sens direct. Soient $x,y\in E$. Décomposons $x=p_F(x)+x^{\mathrm{\prime }}$ et $y=p_F(y)+y^{\mathrm{\prime }}$ avec $x^{\mathrm{\prime }},y^{\mathrm{\prime }}\in F^{\perp }$. Comme $p_F(y)\in F$ et $x^{\mathrm{\prime }}\in F^{\perp }$,

$$⟨p_F(x),y⟩=⟨p_F(x),p_F(y)+y^{\mathrm{\prime }}⟩=⟨p_F(x),p_F(y)⟩,$$

car $p_F(x)\in F$ est orthogonal à $y^{\mathrm{\prime }}\in F^{\perp }$. Le même calcul donne $⟨x,p_F(y)⟩=⟨p_F(x),p_F(y)⟩$. Les deux quantités sont égales, donc $p_F^{\ast }=p_F$. Pour $s_F=2p_F-{\mathrm{Id}}_E$, il suffit d'utiliser la linéarité de l'adjoint : $s_F^{\ast }=2p_F^{\ast }-{\mathrm{Id}}_E=s_F$.

Réciproque. Soit $p$ un projecteur autoadjoint. On sait que $E=\mathrm{Im}p\oplus \mathrm{Ker}p$ et que $p$ est la projection sur $\mathrm{Im}p$ parallèlement à $\mathrm{Ker}p$. Or $\mathrm{Ker}p=\mathrm{Ker}{p}^{\ast }=(\mathrm{Im}p{)}^{\perp }$ d'après la section précédente : la direction de la projection est l'orthogonal de son image, c'est donc une projection orthogonale. $\mathrm{\square }$

L'espace $\mathcal{S}(E)$ et la décomposition de $\mathcal{L}(E)$

Démonstration. Sous-espaces. L'application $u\mapsto u^{\ast }$ est linéaire de $\mathcal{L}(E)$ dans $\mathcal{L}(E)$, donc $\mathcal{S}(E)=\mathrm{Ker}(u\mapsto u^{\ast }-u)$ et $\mathcal{A}(E)=\mathrm{Ker}(u\mapsto u^{\ast }+u)$ sont des sous-espaces vectoriels.

Somme directe. Si $u\in \mathcal{S}(E)\cap \mathcal{A}(E)$, alors $u=u^{\ast }=-u$, donc $u=0$. De plus tout $u\in \mathcal{L}(E)$ s'écrit

$$u=\underset{\in \mathcal{S}(E)}{\underbrace{\frac{u+u^{\ast }}{2}}}+\underset{\in \mathcal{A}(E)}{\underbrace{\frac{u-u^{\ast }}{2}}},$$

les appartenances se vérifiant en prenant l'adjoint de chaque terme et en utilisant $(u^{\ast }{)}^{\ast }=u$.

Dimensions. Fixons une base orthonormée $\mathcal{B}$. L'application $u\mapsto {\mathrm{Mat}}_{\mathcal{B}}(u)$ est un isomorphisme de $\mathcal{L}(E)$ sur ${\mathcal{M}}_n(\mathbb{R})$ qui envoie $\mathcal{S}(E)$ sur ${\mathcal{S}}_n(\mathbb{R})$ et $\mathcal{A}(E)$ sur ${\mathcal{A}}_n(\mathbb{R})$. Or une matrice symétrique est déterminée par ses coefficients d'indices $i⩽j$, au nombre de $\frac{n(n+1)}{2}$, et une matrice antisymétrique par ses coefficients d'indices $i<j$, au nombre de $\frac{n(n-1)}{2}$. On retrouve $\frac{n(n+1)}{2}+\frac{n(n-1)}{2}=n^2=\dim \mathcal{L}(E)$. $\mathrm{\square }$

Isométries vectorielles et groupe orthogonal

Définition et caractérisations

Démonstration. (1) $\Rightarrow$ (2). C'est l'identité de polarisation. Pour tous $x,y$,

$$⟨u(x),u(y)⟩=\frac{1}{2}(\parallel u(x)+u(y){\parallel }^2-\parallel u(x){\parallel }^2-\parallel u(y){\parallel }^2)=\frac{1}{2}(\parallel u(x+y){\parallel }^2-\parallel u(x){\parallel }^2-\parallel u(y){\parallel }^2),$$

en utilisant la linéarité de $u$. En appliquant (1) aux trois normes, cette quantité vaut $\frac{1}{2}(\parallel x+y{\parallel }^2-\parallel x{\parallel }^2-\parallel y{\parallel }^2)=⟨x,y⟩$.

(2) $\Rightarrow$ (3). La définition de l'adjoint, appliquée au vecteur $u(y)$, donne $⟨u(x),u(y)⟩=⟨x,(u^{\ast }\circ u)(y)⟩$ pour tous $x,y$. L'hypothèse (2) fournit alors $⟨x,(u^{\ast }\circ u)(y)⟩=⟨x,y⟩$ pour tout $x$, d'où $(u^{\ast }\circ u)(y)=y$ pour tout $y$, c'est-à-dire $u^{\ast }\circ u={\mathrm{Id}}_E$.

(3) $\Rightarrow$ (1). Pour tout $x$, $\parallel u(x){\parallel }^2=⟨u(x),u(x)⟩=⟨x,(u^{\ast }\circ u)(x)⟩=⟨x,x⟩=\parallel x{\parallel }^2$, et les normes étant positives, $\parallel u(x)\parallel =\parallel x\parallel$.

(2) $\Rightarrow$ (5). Si $(e_1,\dots ,e_n)$ est orthonormée, alors $⟨u(e_i),u(e_j)⟩=⟨e_i,e_j⟩={\delta }_{i,j}$ : la famille $(u(e_1),\dots ,u(e_n))$ est orthonormée, donc libre, donc c'est une base puisqu'elle compte $n$ vecteurs.

(5) $\Rightarrow$ (4). Immédiat, une base orthonormée existe.

(4) $\Rightarrow$ (2). Soit $\mathcal{B}=(e_1,\dots ,e_n)$ une base orthonormée dont l'image est orthonormée. Pour $x={\sum }_i{x}_i{e}_i$ et $y={\sum }_j{y}_j{e}_j$, la bilinéarité donne

$$⟨u(x),u(y)⟩=\sum _{i=1}^n\sum _{j=1}^n{x}_i{y}_j⟨u(e_i),u(e_j)⟩=\sum _{i=1}^n{x}_i{y}_i=⟨x,y⟩\mathrm{.}$$

Bijectivité. De (3) on tire que $u$ est injectif (si $u(x)=0$ alors $x=(u^{\ast }\circ u)(x)=0$), donc bijectif en dimension finie, et en composant $u^{\ast }\circ u={\mathrm{Id}}_E$ par $u^{-1}$ à droite, $u^{\ast }=u^{-1}$. Enfin $\parallel u^{-1}(x)\parallel =\parallel u(u^{-1}(x))\parallel =\parallel x\parallel$, donc $u^{-1}\in \mathrm{O}(E)$. $\mathrm{\square }$

Le groupe orthogonal

Démonstration. Sous-groupe. ${\mathrm{Id}}_E\in \mathrm{O}(E)$, donc $\mathrm{O}(E)\mathrm{\ne }\mathrm{\varnothing }$ et $\mathrm{O}(E)\subseteq \mathrm{G}\mathrm{L}(E)$ d'après le théorème précédent. Si $u,v\in \mathrm{O}(E)$, alors pour tout $x$, $\parallel (u\circ v)(x)\parallel =\parallel v(x)\parallel =\parallel x\parallel$, donc $u\circ v\in \mathrm{O}(E)$ ; et $u^{-1}\in \mathrm{O}(E)$ a déjà été établi.

Déterminant. De $u^{\ast }\circ u={\mathrm{Id}}_E$ on tire $\det (u^{\ast })\det (u)=1$, soit $\det (u{)}^2=1$ puisque $\det (u^{\ast })=\det (u)$. Donc $\det (u)=\pm 1$.

Sous-groupe $\mathrm{S}\mathrm{O}(E)$. Il contient ${\mathrm{Id}}_E$ et le déterminant est multiplicatif : si $\det u=\det v=1$ alors $\det (u\circ v^{-1})=1$. $\mathrm{\square }$

Matrices orthogonales

Démonstration. (1) $⟺$ (2) $⟺$ (3). Si $A^{\mathrm{\top }}A=I_n$, alors $A$ est inversible (son déterminant est non nul car $\det (A{)}^2=1$) et en multipliant par $A^{-1}$ à droite on obtient $A^{\mathrm{\top }}=A^{-1}$, d'où aussi $A{A}^{\mathrm{\top }}=I_n$. Les autres implications sont analogues.

(1) $⟺$ (4). Notons $C_1,\dots ,C_n$ les colonnes de $A$. Le coefficient d'indice $(i,j)$ de $A^{\mathrm{\top }}A$ est $C_i^{\mathrm{\top }}{C}_j=⟨C_i,C_j⟩$ pour le produit scalaire canonique. Dire que $A^{\mathrm{\top }}A=I_n$, c'est donc dire que $⟨C_i,C_j⟩={\delta }_{i,j}$ : la famille des colonnes est orthonormée, donc libre, donc c'est une base de ${\mathbb{R}}^n$.

(3) $⟺$ (5). Même calcul appliqué à $A{A}^{\mathrm{\top }}$, dont le coefficient $(i,j)$ est le produit scalaire des lignes $i$ et $j$.

Traduction en termes d'endomorphismes. Dans la base orthonormée $\mathcal{B}$, la matrice de $u^{\ast }\circ u$ est $A^{\mathrm{\top }}A$. Donc $u^{\ast }\circ u={\mathrm{Id}}_E$ équivaut à $A^{\mathrm{\top }}A=I_n$. $\mathrm{\square }$

Changement de base orthonormée et orientation

Démonstration. Les colonnes de $P$ sont les colonnes des coordonnées des vecteurs de ${\mathcal{B}}^{\mathrm{\prime }}$ dans la base orthonormée $\mathcal{B}$. Puisque $\mathcal{B}$ est orthonormée, le produit scalaire de deux vecteurs est le produit scalaire canonique de leurs colonnes de coordonnées. Dire que ${\mathcal{B}}^{\mathrm{\prime }}$ est orthonormée revient donc à dire que les colonnes de $P$ forment une famille orthonormée de ${\mathbb{R}}^n$, c'est-à-dire $P\in {\mathrm{O}}_n(\mathbb{R})$. La formule de changement de base est la formule usuelle, où $P^{-1}$ se simplifie en $P^{\mathrm{\top }}$. $\mathrm{\square }$

Valeurs propres et sous-espaces stables d'une isométrie

Démonstration. Point 1. Si $u(x)=\lambda x$ avec $x\mathrm{\ne }{0}_E$, alors $\parallel x\parallel =\parallel u(x)\parallel =\mathrm{\mid }\lambda \mathrm{\mid }\parallel x\parallel$, donc $\mathrm{\mid }\lambda \mathrm{\mid }=1$ puisque $\parallel x\parallel \mathrm{\ne }0$.

Point 2. Soient $x$ tel que $u(x)=x$ et $y$ tel que $u(y)=-y$. La conservation du produit scalaire donne $⟨x,y⟩=⟨u(x),u(y)⟩=⟨x,-y⟩=-⟨x,y⟩$, donc $⟨x,y⟩=0$.

Point 3. L'endomorphisme $u$ est injectif, donc $\dim u(F)=\dim F$ ; comme $u(F)\subseteq F$, l'égalité des dimensions donne $u(F)=F$. Soit maintenant $y\in F^{\perp }$ et montrons $u(y)\in F^{\perp }$. Soit $x\in F$ : puisque $u(F)=F$, il existe $x^{\mathrm{\prime }}\in F$ tel que $x=u(x^{\mathrm{\prime }})$, et alors

$$⟨u(y),x⟩=⟨u(y),u(x^{\mathrm{\prime }})⟩=⟨y,x^{\mathrm{\prime }}⟩=0$$

car $y\in F^{\perp }$ et $x^{\mathrm{\prime }}\in F$. Donc $u(y)\in F^{\perp }$.

Enfin, l'endomorphisme induit sur $F$ conserve la norme puisque $u$ la conserve : c'est une isométrie de $F$, et de même sur $F^{\perp }$. $\mathrm{\square }$

Isométries du plan et de l'espace

Le cas de la dimension 2

Démonstration. Notons $A=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)$. La première colonne est unitaire : $a^2+c^2=1$, donc il existe $\theta \in \mathbb{R}$, unique modulo $2\pi$, tel que $a=\cos \theta$ et $c=\sin \theta$. La seconde colonne est unitaire et orthogonale à la première : elle appartient à la droite orthogonale à $(\cos \theta ,\sin \theta )$, dirigée par le vecteur unitaire $(-\sin \theta ,\cos \theta )$, donc vaut $\pm (-\sin \theta ,\cos \theta )$. Le signe $+$ donne $A=R_{\theta }$ et $\det A={\cos }^2\theta +{\sin }^2\theta =1$ ; le signe $-$ donne $A=S_{\theta }$ et $\det A=-{\cos }^2\theta -{\sin }^2\theta =-1$. $\mathrm{\square }$

Démonstration. Rotations. Un calcul direct donne $R_{\theta }{R}_{{\theta }^{\mathrm{\prime }}}=R_{\theta +{\theta }^{\mathrm{\prime }}}$ : le coefficient $(1,1)$ du produit est $\cos \theta \cos {\theta }^{\mathrm{\prime }}-\sin \theta \sin {\theta }^{\mathrm{\prime }}=\cos (\theta +{\theta }^{\mathrm{\prime }})$ et le coefficient $(2,1)$ est $\sin \theta \cos {\theta }^{\mathrm{\prime }}+\cos \theta \sin {\theta }^{\mathrm{\prime }}=\sin (\theta +{\theta }^{\mathrm{\prime }})$, les deux autres s'en déduisant. En particulier ${\mathrm{S}\mathrm{O}}_2(\mathbb{R})$ est commutatif, donc la formule de changement de base $P^{-1}{R}_{\theta }P=R_{\theta }$ vaut pour toute $P\in {\mathrm{S}\mathrm{O}}_2(\mathbb{R})$ : l'angle d'une rotation plane ne dépend pas de la base orthonormée directe choisie. Le polynôme caractéristique de $R_{\theta }$ est $X^2-2\cos \theta X+1$, de discriminant $4({\cos }^2\theta -1)=-4{\sin }^2\theta$, négatif sauf si $\sin \theta =0$.

Réflexions. On calcule $S_{\theta }^2=\left(\begin{array}{cc}{\cos }^2\theta +{\sin }^2\theta & \cos \theta \sin \theta -\sin \theta \cos \theta \\ \sin \theta \cos \theta -\cos \theta \sin \theta & {\sin }^2\theta +{\cos }^2\theta \end{array}\right)=I_2$, et $S_{\theta }$ est symétrique de trace nulle : ses valeurs propres sont $1$ et $-1$. Enfin, en notant $v=(\cos \frac{\theta }{2},\sin \frac{\theta }{2})$,

$$S_{\theta }v=(\cos \theta \cos \frac{\theta }{2}+\sin \theta \sin \frac{\theta }{2},\sin \theta \cos \frac{\theta }{2}-\cos \theta \sin \frac{\theta }{2})=(\cos \frac{\theta }{2},\sin \frac{\theta }{2})=v,$$

donc $v$ engendre l'espace propre associé à $1$ : $u$ est la réflexion d'axe $\mathrm{Vect}(v)$. $\mathrm{\square }$

Démonstration. L'identité $R_{\theta }{S}_0=S_{\theta }$ se vérifie en effectuant le produit. On calcule ensuite $S_0{R}_{{\theta }^{\mathrm{\prime }}}=R_{-{\theta }^{\mathrm{\prime }}}{S}_0$, les deux membres valant $\left(\begin{array}{cc}\cos {\theta }^{\mathrm{\prime }}& -\sin {\theta }^{\mathrm{\prime }}\\ -\sin {\theta }^{\mathrm{\prime }}& -\cos {\theta }^{\mathrm{\prime }}\end{array}\right)$. Alors

$$S_{\theta }{S}_{{\theta }^{\mathrm{\prime }}}=R_{\theta }{S}_0{R}_{{\theta }^{\mathrm{\prime }}}{S}_0=R_{\theta }{R}_{-{\theta }^{\mathrm{\prime }}}{S}_0{S}_0=R_{\theta -{\theta }^{\mathrm{\prime }}},$$

puisque $S_0^2=I_2$. Les deux autres formules s'obtiennent de la même manière. $\mathrm{\square }$

La dimension 3 : rotations

Dans toute cette sous-section, $E$ est un espace euclidien orienté de dimension $3$.

Démonstration. Existence de la valeur propre $1$. En utilisant $\det (u^{\ast })=\det (u)$, $u^{\ast }=u^{-1}$ et $\det (u)=1$ :

$$\det (u-{\mathrm{Id}}_E)=\det (u)\det ({\mathrm{Id}}_E-u^{-1})=\det ({\mathrm{Id}}_E-u^{\ast })=\det (({\mathrm{Id}}_E-u{)}^{\ast })=\det ({\mathrm{Id}}_E-u)=(-1{)}^3\det (u-{\mathrm{Id}}_E)\mathrm{.}$$

Donc $2\det (u-{\mathrm{Id}}_E)=0$, ce qui prouve que $u-{\mathrm{Id}}_E$ n'est pas injectif : $1$ est valeur propre.

L'axe est une droite. Posons $D=\mathrm{Ker}(u-{\mathrm{Id}}_E)$, de dimension $1$, $2$ ou $3$. Si $\dim D=3$ alors $u={\mathrm{Id}}_E$, exclu. Si $\dim D=2$, alors $D^{\perp }$ est une droite stable par $u$ (point 3 de la propriété précédente), donc $u$ y agit par $\epsilon \mathrm{Id}$ avec $\epsilon =\pm 1$, et $\det (u)=1\times 1\times \epsilon =1$ impose $\epsilon =1$, donc $u={\mathrm{Id}}_E$, exclu à nouveau. Donc $\dim D=1$.

Forme matricielle. Soit $a$ un vecteur unitaire de $D$. Le plan $P=D^{\perp }$ est stable par $u$, et l'endomorphisme induit $u_P$ est une isométrie de $P$. Son déterminant vérifie $1=\det (u)=1\times \det (u_P)$, donc $u_P\in \mathrm{S}\mathrm{O}(P)$ : c'est une rotation plane. En choisissant $(e_2,e_3)$ base orthonormée de $P$ telle que $(a,e_2,e_3)$ soit directe, la matrice de $u_P$ dans $(e_2,e_3)$ est un $R_{\theta }$, d'où la forme annoncée. La trace se lit immédiatement : $\mathrm{tr}(u)=1+2\cos \theta$.

Signe de l'angle. Soit $x=\alpha e_2+\beta e_3\in P$ non nul. Alors $u(x)=(\alpha \cos \theta -\beta \sin \theta )e_2+(\alpha \sin \theta +\beta \cos \theta )e_3$. Le déterminant dans la base orthonormée directe $\mathcal{B}$ vaut, en développant selon la première colonne (les deux vecteurs $x$ et $u(x)$ n'ont pas de composante sur $a$) :

$$\det (a,x,u(x))=\mid \begin{array}{cc}\alpha & \alpha \cos \theta -\beta \sin \theta \\ \beta & \alpha \sin \theta +\beta \cos \theta \end{array}\mid ={\alpha }^2\sin \theta +\alpha \beta \cos \theta -\alpha \beta \cos \theta +{\beta }^2\sin \theta =({\alpha }^2+{\beta }^2)\sin \theta ,$$

soit $\sin \theta \parallel x{\parallel }^2$. $\mathrm{\square }$

La dimension 3 : antirotations

Démonstration. Comme $\dim E=3$, $\det (-u)=(-1{)}^3\det (u)=1$, donc $-u\in \mathrm{S}\mathrm{O}(E)$. D'après la sous-section précédente, si $-u\mathrm{\ne }{\mathrm{Id}}_E$ il existe une base orthonormée directe $\mathcal{B}=(a,e_2,e_3)$ dans laquelle la matrice de $-u$ est diagonale par blocs, de blocs $1$ et $R_{\alpha }$. La matrice de $u$ est alors son opposée :

$${\mathrm{Mat}}_{\mathcal{B}}(u)=\left(\begin{array}{ccc}-1& 0& 0\\ 0& -\cos \alpha & \sin \alpha \\ 0& -\sin \alpha & -\cos \alpha \end{array}\right)\mathrm{.}$$

En posant $\theta =\alpha +\pi$, on a $\cos \theta =-\cos \alpha$ et $\sin \theta =-\sin \alpha$, et la matrice ci-dessus s'écrit exactement sous la forme annoncée. Le cas $-u={\mathrm{Id}}_E$ correspond à $u=-{\mathrm{Id}}_E$, déjà de la forme voulue avec $\theta =\pi$. Enfin, le produit par blocs

$$\left(\begin{array}{cc}-1& 0\\ 0& I_2\end{array}\right)\left(\begin{array}{cc}1& 0\\ 0& R_{\theta }\end{array}\right)=\left(\begin{array}{cc}-1& 0\\ 0& R_{\theta }\end{array}\right)=\left(\begin{array}{cc}1& 0\\ 0& R_{\theta }\end{array}\right)\left(\begin{array}{cc}-1& 0\\ 0& I_2\end{array}\right)$$

montre la décomposition commutative annoncée. $\mathrm{\square }$

Méthode : reconnaître une isométrie de l'espace

Réduction des isométries vectorielles

Existence d'une droite ou d'un plan stable

Démonstration. Soit $x\in E$ non nul. La famille $(x,u(x),u^2(x),\dots ,u^n(x))$ compte $n+1$ vecteurs dans un espace de dimension $n$ : elle est liée. Il existe donc des réels $a_0,\dots ,a_n$ non tous nuls tels que ${\sum }_{k=0}^n{a}_k{u}^k(x)=0_E$, c'est-à-dire $P(u)(x)=0_E$ avec $P={\sum }_{k=0}^n{a}_k{X}^k$ non nul. Le polynôme $P$ n'est pas constant : sinon $P=a_0\mathrm{\ne }0$ et $a_{0}x=0_E$ donnerait $x=0_E$.

Décomposons $P$ en produit de facteurs irréductibles unitaires de $\mathbb{R}[X]$ : $P=c{P}_1{P}_2\cdots P_m$ avec $c\mathrm{\ne }0$, chaque $P_k$ étant de degré $1$ ou $2$, puisque ce sont les seuls polynômes irréductibles de $\mathbb{R}[X]$. Posons $v_m=x$ et, pour $k$ décroissant de $m$ à $1$, $v_{k-1}=P_k(u)(v_k)$. Par construction $v_0=(P_1\cdots P_m)(u)(x)=\frac{1}{c}P(u)(x)=0_E$, tandis que $v_m=x\mathrm{\ne }{0}_E$.

Soit $k$ le plus petit indice tel que $v_k\mathrm{\ne }{0}_E$. Il existe car $v_m\mathrm{\ne }{0}_E$, et $k⩾1$ car $v_0=0_E$ ; par minimalité, $v_{k-1}=0_E$. Posons $y=v_k\mathrm{\ne }{0}_E$ et $Q=P_k$, de sorte que $Q(u)(y)=0_E$.

Si $\mathrm{deg}Q=1$, écrivons $Q=X-\lambda$ : alors $u(y)=\lambda y$ et la droite $\mathrm{Vect}(y)$ est stable par $u$.

Si $\mathrm{deg}Q=2$, écrivons $Q=X^2+bX+c^{\mathrm{\prime }}$ sans racine réelle. Alors $u^2(y)=-bu(y)-c^{\mathrm{\prime }}y$. Le sous-espace $F=\mathrm{Vect}(y,u(y))$ vérifie $u(y)\in F$ et $u(u(y))=-bu(y)-c^{\mathrm{\prime }}y\in F$, donc $F$ est stable par $u$ et $\dim F⩽2$. Si l'on avait $\dim F=1$, alors $u(y)=\lambda y$ pour un réel $\lambda$, et $0_E=Q(u)(y)=Q(\lambda )y$ donnerait $Q(\lambda )=0$, ce qui contredit l'absence de racine réelle. Donc $\dim F=2$. $\mathrm{\square }$

Le théorème de réduction

Démonstration. Par récurrence forte sur $n⩾1$.

Initialisation. Si $n=1$, alors $u=\epsilon {\mathrm{Id}}_E$ avec $\epsilon =\pm 1$ d'après la contrainte $\parallel u(x)\parallel =\parallel x\parallel$, et la matrice dans une base orthonormée (c'est-à-dire un vecteur unitaire) est $(1)$ ou $(-1)$ : forme voulue avec $(p,q,r)=(1,0,0)$ ou $(0,1,0)$.

Hérédité. Soit $n⩾2$ et supposons le résultat acquis en toute dimension strictement inférieure. D'après le lemme, il existe un sous-espace $F$ stable par $u$ avec $\dim F\in \{1,2\}$. D'après la propriété de stabilité des isométries, $F^{\perp }$ est stable et les endomorphismes induits $u_F$ et $u_{F^{\perp }}$ sont des isométries de $F$ et de $F^{\perp }$.

Traitons d'abord $F$.

• Si $\dim F=1$, alors $u_F=\epsilon {\mathrm{Id}}_F$ avec $\epsilon =\pm 1$ : dans une base orthonormée de $F$, la matrice est le bloc $(1)$ ou $(-1)$.
• Si $\dim F=2$, alors la matrice de $u_F$ dans une base orthonormée de $F$ appartient à ${\mathrm{O}}_2(\mathbb{R})$, donc vaut $R_{\theta }$ ou $S_{\theta }$. Dans le cas $S_{\theta }$, $u_F$ est une réflexion du plan $F$, diagonalisable en base orthonormée de valeurs propres $1$ et $-1$ : on obtient deux blocs $(1)$ et $(-1)$. Dans le cas $R_{\theta }$ : si $\theta \equiv 0[2\pi ]$, la matrice est $I_2$, soit deux blocs $(1)$ ; si $\theta \equiv \pi [2\pi ]$, elle vaut $-I_2$, soit deux blocs $(-1)$ ; sinon, quitte à échanger les deux vecteurs de la base orthonormée de $F$, ce qui remplace $R_{\theta }$ par $R_{-\theta }$, on peut supposer $\sin \theta >0$, c'est-à-dire $\theta \in ]0,\pi [$.

Dans tous les cas, on dispose d'une base orthonormée de $F$ dans laquelle la matrice de $u_F$ est de la forme voulue. Passons à $F^{\perp }$, de dimension $n-\dim F$, strictement inférieure à $n$. Si $F^{\perp }=\{0_E\}$, il n'y a rien à faire. Sinon, l'hypothèse de récurrence s'applique et fournit une base orthonormée de $F^{\perp }$ dans laquelle la matrice de $u_{F^{\perp }}$ est de la forme voulue.

Comme $E=F\oplus F^{\perp }$ avec $F\perp F^{\perp }$, la concaténation des deux bases est une base orthonormée $\mathcal{B}$ de $E$, et la matrice de $u$ dans $\mathcal{B}$ est diagonale par blocs, faite de blocs $(1)$, $(-1)$ et $R_{{\theta }_i}$ avec ${\theta }_i\in ]0,\pi [$. Il reste à réordonner les vecteurs de $\mathcal{B}$ pour regrouper les $p$ blocs $(1)$ en $I_p$ et les $q$ blocs $(-1)$ en $-I_q$, ce qui ne change ni le caractère orthonormé de la base ni la nature des blocs. $\mathrm{\square }$

Le théorème spectral

Les valeurs propres d'un autoadjoint sont réelles

Démonstration. Considérons $A$ comme une matrice de ${\mathcal{M}}_n(\mathbb{C})$ et soit $\lambda \in \mathbb{C}$ une racine de ${\chi }_A$. Il existe une colonne $Z\in {\mathcal{M}}_{n,1}(\mathbb{C})$ non nulle telle que $AZ=\lambda Z$. Notons $\bar{Z}$ la colonne dont les coefficients sont les conjugués de ceux de $Z$. Comme $A$ est à coefficients réels, la conjugaison de la relation $AZ=\lambda Z$ donne $A\bar{Z}=\bar{\lambda }\bar{Z}$.

Posons $s={\bar{Z}}^{\mathrm{\top }}Z={\sum }_{k=1}^n\overline{z_k}{z}_k={\sum }_{k=1}^n\mathrm{\mid }{z}_k{\mathrm{\mid }}^2$, qui est un réel strictement positif puisque $Z\mathrm{\ne }0$. Calculons le nombre complexe ${\bar{Z}}^{\mathrm{\top }}AZ$ de deux manières.

D'une part, ${\bar{Z}}^{\mathrm{\top }}AZ={\bar{Z}}^{\mathrm{\top }}(\lambda Z)=\lambda s$.

D'autre part, ${\bar{Z}}^{\mathrm{\top }}AZ$ est une matrice de taille $1$, donc égale à sa transposée :

$${\bar{Z}}^{\mathrm{\top }}AZ=({\bar{Z}}^{\mathrm{\top }}AZ{)}^{\mathrm{\top }}=Z^{\mathrm{\top }}{A}^{\mathrm{\top }}\bar{Z}=Z^{\mathrm{\top }}A\bar{Z}=Z^{\mathrm{\top }}(\bar{\lambda }\bar{Z})=\bar{\lambda }{Z}^{\mathrm{\top }}\bar{Z}=\bar{\lambda }s,$$

où l'on a utilisé la symétrie $A^{\mathrm{\top }}=A$ puis $Z^{\mathrm{\top }}\bar{Z}={\sum }_k{z}_k\overline{z_k}=s$.

Ainsi $\lambda s=\bar{\lambda }s$ avec $s>0$, donc $\lambda =\bar{\lambda }$, c'est-à-dire $\lambda \in \mathbb{R}$. Le polynôme ${\chi }_A$ étant scindé sur $\mathbb{C}$ et toutes ses racines étant réelles, il est scindé sur $\mathbb{R}$ ; comme $\mathrm{deg}{\chi }_A=n⩾1$, il possède au moins une racine, qui est une valeur propre réelle de $A$. $\mathrm{\square }$

Orthogonalité des sous-espaces propres

Démonstration. Soient $x\in E_{\lambda }(u)$ et $y\in E_{\mu }(u)$. Le caractère autoadjoint donne

$$\lambda ⟨x,y⟩=⟨u(x),y⟩=⟨x,u(y)⟩=\mu ⟨x,y⟩,$$

donc $(\lambda -\mu )⟨x,y⟩=0$. Comme $\lambda \mathrm{\ne }\mu$, il vient $⟨x,y⟩=0$. $\mathrm{\square }$

Le théorème spectral

Démonstration. Par récurrence sur $n⩾1$.

Initialisation. Si $n=1$, tout vecteur unitaire $e_1$ de $E$ engendre $E$, et $u(e_1)$ est colinéaire à $e_1$ : $(e_1)$ est une base orthonormée de vecteurs propres.

Hérédité. Soit $n⩾2$ et supposons le résultat vrai pour tout espace euclidien de dimension $n-1$. Soit $u\in \mathcal{S}(E)$ avec $\dim E=n$. D'après la sous-section précédente, $u$ possède une valeur propre réelle ${\lambda }_1$ ; soit $e_1$ un vecteur propre associé, que l'on choisit unitaire (quitte à diviser par sa norme).

La droite $D=\mathrm{Vect}(e_1)$ est stable par $u$. Comme $u^{\ast }=u$, la propriété de stabilité de la section 2 assure que $D^{\perp }$ est stable par $u$. Notons $v$ l'endomorphisme induit par $u$ sur $D^{\perp }$, qui est un espace euclidien de dimension $n-1$ pour le produit scalaire restreint. Cet endomorphisme est autoadjoint : pour tous $x,y\in D^{\perp }$,

$$⟨v(x),y⟩=⟨u(x),y⟩=⟨x,u(y)⟩=⟨x,v(y)⟩\mathrm{.}$$

Par hypothèse de récurrence, il existe une base orthonormée $(e_2,\dots ,e_n)$ de $D^{\perp }$ formée de vecteurs propres de $v$, donc de $u$.

Enfin, $E=D\oplus D^{\perp }$ et $e_1\perp D^{\perp }$, donc $(e_1,e_2,\dots ,e_n)$ est une base orthonormée de $E$ formée de vecteurs propres de $u$. L'orthogonalité de la somme des sous-espaces propres a été établie à la sous-section précédente. $\mathrm{\square }$

Démonstration. Sens direct. Munissons ${\mathbb{R}}^n$ du produit scalaire canonique et notons $u$ l'endomorphisme canoniquement associé à $A$. La base canonique étant orthonormée et $A$ symétrique, $u$ est autoadjoint. Le théorème spectral fournit une base orthonormée ${\mathcal{B}}^{\mathrm{\prime }}$ de vecteurs propres. La matrice de passage $P$ de la base canonique à ${\mathcal{B}}^{\mathrm{\prime }}$ est orthogonale, et la formule de changement de base donne $P^{\mathrm{\top }}AP=D$ diagonale, soit $A=PD{P}^{\mathrm{\top }}$.

Réciproque. Si $A=PD{P}^{\mathrm{\top }}$ avec $P$ orthogonale et $D$ diagonale réelle, alors

$$A^{\mathrm{\top }}=(PD{P}^{\mathrm{\top }}{)}^{\mathrm{\top }}=P{D}^{\mathrm{\top }}{P}^{\mathrm{\top }}=PD{P}^{\mathrm{\top }}=A,$$

puisqu'une matrice diagonale est symétrique. Donc $A\in {\mathcal{S}}_n(\mathbb{R})$. $\mathrm{\square }$

Méthode et exemple

Endomorphismes autoadjoints positifs et définis positifs

Définitions

Caractérisation par le spectre

Démonstration. Sens direct. Soit $\lambda \in \mathrm{Sp}(u)$ et $x$ un vecteur propre associé, non nul. Alors

$$⟨u(x),x⟩=\lambda \parallel x{\parallel }^2\mathrm{.}$$

Si $u$ est positif, ce nombre est positif et $\parallel x{\parallel }^2>0$, donc $\lambda ⩾0$. S'il est défini positif, ce nombre est strictement positif, donc $\lambda >0$.

Réciproque. D'après le théorème spectral, il existe une base orthonormée $(e_1,\dots ,e_n)$ de vecteurs propres, $u(e_i)={\lambda }_i{e}_i$. Pour $x={\sum }_{i=1}^n{x}_i{e}_i$, la bilinéarité et l'orthonormalité donnent

$$⟨u(x),x⟩=⟨\sum _{i=1}^n{\lambda }_i{x}_i{e}_i,\sum _{j=1}^n{x}_j{e}_j⟩=\sum _{i=1}^n{\lambda }_i{x}_i^2\mathrm{.}$$

Si tous les ${\lambda }_i$ sont positifs, cette somme est positive. S'ils sont tous strictement positifs et si $x\mathrm{\ne }{0}_E$, l'un au moins des $x_i$ est non nul et la somme est strictement positive.

Dernière équivalence. Un endomorphisme diagonalisable est bijectif si et seulement si $0$ n'est pas valeur propre. $\mathrm{\square }$

Deux familles d'exemples

Démonstration. Point 1. L'endomorphisme $u^{\ast }\circ u$ est autoadjoint car $(u^{\ast }\circ u{)}^{\ast }=u^{\ast }\circ (u^{\ast }{)}^{\ast }=u^{\ast }\circ u$. De plus, pour tout $x$,

$$⟨(u^{\ast }\circ u)(x),x⟩=⟨u(x),u(x)⟩=\parallel u(x){\parallel }^2⩾0.$$

Cette quantité est nulle si et seulement si $u(x)=0_E$. Elle est donc strictement positive pour tout $x\mathrm{\ne }{0}_E$ si et seulement si $\mathrm{Ker}u=\{0_E\}$, c'est-à-dire si et seulement si $u$ est bijectif.

Point 2. La matrice $G=G(x_1,\dots ,x_p)$ est symétrique par symétrie du produit scalaire, et l'on a établi en section 1 que $X^{\mathrm{\top }}GX=\parallel {\sum }_i{\lambda }_i{x}_i{\parallel }^2⩾0$ pour $X=({\lambda }_1,\dots ,{\lambda }_p{)}^{\mathrm{\top }}$. Cette quantité est nulle si et seulement si ${\sum }_i{\lambda }_i{x}_i=0_E$ ; elle est donc strictement positive pour tout $X\mathrm{\ne }0$ si et seulement si la seule combinaison linéaire nulle est la combinaison triviale, c'est-à-dire si et seulement si la famille est libre. $\mathrm{\square }$

Racine carrée d'un autoadjoint positif

Démonstration de l'existence. D'après le théorème spectral, il existe une base orthonormée $(e_1,\dots ,e_n)$ et des réels ${\lambda }_1,\dots ,{\lambda }_n$ tels que $u(e_i)={\lambda }_i{e}_i$ ; la caractérisation par le spectre donne ${\lambda }_i⩾0$, donc $\sqrt{{\lambda }_i}$ a un sens. Définissons $v$ comme l'unique endomorphisme vérifiant

$$v(e_i)=\sqrt{{\lambda }_i}{e}_i(1⩽i⩽n)\mathrm{.}$$

Sa matrice dans la base orthonormée $(e_1,\dots ,e_n)$ est $\mathrm{diag}(\sqrt{{\lambda }_1},\dots ,\sqrt{{\lambda }_n})$, qui est symétrique : $v$ est autoadjoint. Ses valeurs propres $\sqrt{{\lambda }_i}$ sont positives, donc $v$ est positif. Enfin $v(v(e_i))={\lambda }_i{e}_i=u(e_i)$ pour tout $i$, et deux endomorphismes qui coïncident sur une base sont égaux : $v\circ v=u$. $\mathrm{\square }$

Encadrement de $⟨u(x),x⟩$

Démonstration. Soit $(e_1,\dots ,e_n)$ une base orthonormée de vecteurs propres, $u(e_i)={\lambda }_i{e}_i$, donnée par le théorème spectral. Pour $x={\sum }_{i=1}^n{x}_i{e}_i$, on a vu que

$$⟨u(x),x⟩=\sum _{i=1}^n{\lambda }_i{x}_i^2,\text{avec}\parallel x{\parallel }^2=\sum _{i=1}^n{x}_i^2\mathrm{.}$$

Comme ${\lambda }_i⩽{\lambda }_{\max }$ pour tout $i$ et $x_i^2⩾0$,

$${\lambda }_{\max }\parallel x{\parallel }^2-⟨u(x),x⟩=\sum _{i=1}^n({\lambda }_{\max }-{\lambda }_i)x_i^2⩾0,$$

ce qui donne la majoration. La minoration s'obtient de même avec ${\lambda }_i⩾{\lambda }_{\min }$.

Cas d'égalité à droite. La somme ci-dessus est une somme de termes positifs ; elle est nulle si et seulement si chaque terme l'est, c'est-à-dire si $x_i=0$ pour tout indice $i$ tel que ${\lambda }_i\mathrm{\ne }{\lambda }_{\max }$. Cela signifie exactement que $x$ appartient au sous-espace engendré par les $e_i$ associés à ${\lambda }_{\max }$, c'est-à-dire $x\in E_{{\lambda }_{\max }}(u)$. Le raisonnement est identique à gauche. En particulier, en prenant pour $x$ un vecteur propre unitaire associé à ${\lambda }_{\max }$, on obtient $⟨u(x),x⟩={\lambda }_{\max }$ : la borne est atteinte. $\mathrm{\square }$

Tableau récapitulatif

Les quatre familles étudiées se définissent toutes par une relation entre $u$ et son adjoint. Voici ce qu'il faut savoir restituer immédiatement, $\mathcal{B}$ désignant toujours une base orthonormée et $A={\mathrm{Mat}}_{\mathcal{B}}(u)$.

Trois remarques pour finir.

Les autoadjoints définis positifs sont exactement les autoadjoints positifs bijectifs, et matriciellement ${\mathcal{S}}_n^{++}(\mathbb{R})={\mathcal{S}}_n^{+}(\mathbb{R})\cap {\mathrm{G}\mathrm{L}}_n(\mathbb{R})$. Ce sont aussi, précisément, les matrices des produits scalaires : si $A\in {\mathcal{S}}_n^{++}(\mathbb{R})$, l'application $(X,Y)\mapsto X^{\mathrm{\top }}AY$ est un produit scalaire sur ${\mathcal{M}}_{n,1}(\mathbb{R})$.

Les intersections entre familles sont instructives. Une isométrie autoadjointe vérifie $u^2=u^{\ast }\circ u={\mathrm{Id}}_E$ et est diagonalisable de valeurs propres dans $\{-1,1\}$ : c'est exactement une symétrie orthogonale. Une isométrie autoadjointe positive n'a que la valeur propre $1$ : c'est ${\mathrm{Id}}_E$. Un endomorphisme à la fois autoadjoint et antisymétrique est nul.

Enfin, la stratégie de démonstration est la même partout dans ce chapitre, et c'est elle qu'il faut avoir en tête devant un exercice inconnu : trouver un sous-espace stable de petite dimension, utiliser que son orthogonal est stable lui aussi, appliquer l'hypothèse de récurrence à l'endomorphisme induit, puis recoller les bases orthonormées.