Sous-groupe maximal d'un groupe

En théorie des groupes, on appelle sous-groupe maximal d'un groupe G tout élément maximal de l'ensemble des sous-groupes propres de G, cet ensemble étant ordonné par inclusion^[1]. (On entendra ici par « sous-groupe propre de G » un sous-groupe de G distinct de G.) Autrement dit, un sous-groupe maximal de G est un sous-groupe propre H de G tel qu'aucun sous-groupe de G ne soit strictement compris entre H et G.

L'ensemble des éléments d'un groupe G qui appartiennent à tout sous-groupe maximal de G est évidemment un sous-groupe de G. On l'appelle le sous-groupe de Frattini de G.

Exemples de sous-groupes maximaux

• D'après la formule des indices, tout sous-groupe d'indice fini premier est un sous-groupe maximal.
• On sait que le groupe alterné A₄ est un groupe d'ordre 12 qui n'a pas de sous-groupe d'ordre 6^[2]; un sous-groupe d'ordre 3 de A₄ (il en existe évidemment) est donc un sous-groupe maximal d'indice 4 (non premier).

Quelques faits

• Un groupe réduit à l'élément neutre n'a pas de sous-groupes propres et n'a donc pas de sous-groupes maximaux.
• Dans un groupe fini, tout sous-groupe propre est contenu dans au moins un sous-groupe maximal.

(Parmi les sous-groupes propres d'un groupe fini G qui contiennent le sous-groupe propre H, en considérer un dont l'ordre est le plus grand possible.)

• En particulier, tout groupe fini non réduit à l'élément neutre admet au moins un sous-groupe maximal.

(Dans ce qui précède, faire H = 1.)

• Plus généralement, on prouve (à l'aide du lemme de Zorn) que dans tout groupe de type fini, tout sous-groupe propre est contenu dans au moins un sous-groupe maximal^[3].
• Si un sous-groupe maximal est normal, son indice est fini et premier^[4].

En effet, si un sous-groupe normal M de G est sous-groupe maximal de G, alors, d'après le théorème de correspondance, le groupe non trivial G/M (par « trivial », on entend ici réduit à l'élément neutre) n'admet pour sous-groupes que lui-même et son sous-groupe trivial; or on montre facilement qu'un groupe non trivial qui n'admet pour sous-groupes que lui-même et son sous-groupe trivial est un groupe fini d'ordre premier. (Soit H un tel groupe. H doit être égal à son sous-groupe engendré par n'importe quel élément distinct du neutre, donc H est monogène. Il ne peut pas être monogène infini, car dans ce cas il serait isomorphe au groupe additif Z des entiers relatifs, or Z a d'autres sous-groupes que lui-même et son sous-groupe nul. Donc H est cyclique. (On entend ici par groupe cyclique un groupe monogène fini.) Son ordre ne peut pas être composé, car un groupe cyclique C admet un sous-groupe d'ordre d pour tout diviseur d de l'ordre de C.)

• Puisque tout sous-groupe d'un groupe abélien est normal, il résulte du fait précédent que tout sous-groupe maximal d'un groupe abélien est d'indice fini et premier.

On montre facilement que le seul sous-groupe d'indice fini du groupe additif Q des nombres rationnels est Q lui-même. (Soit G un sous-groupe d'indice fini de Q, soit n l'indice de G dans Q. Alors, pour tout x dans Q, nx appartient à G. Mais tout nombre rationnel est de la forme nx pour un certain nombre rationnel x, donc G = Q.) Donc, d'après ce qui précède,

• Q n'a pas de sous-groupes maximaux^[5].

• Plus généralement, un groupe abélien est divisible si et seulement s'il n'a pas de sous-groupe maximal.
• On voit ainsi qu'un groupe infini peut ne pas avoir de sous-groupe maximal.

Un sous-groupe maximal n'est pas forcément normal (on a vu qu'un sous-groupe d'ordre 3 du groupe alterné A₄ est maximal, or un tel sous-groupe n'est pas normal), mais on prouve que dans tout groupe nilpotent, tout sous-groupe maximal est normal^[6].

Un exemple d'usage de la notion de sous-groupe maximal est le théorème suivant : une opération transitive d'un groupe G sur un ensemble X d'au moins deux éléments est primitive si et seulement si, pour tout élément x de X, le stabilisateur de x est un sous-groupe maximal de G^[7].

Notes et références

1. ↑ Définition conforme à J. Calais, Éléments de théorie des groupes, Paris, P.U.F., 1984, p. 159.
2. ↑ Voir par exemple J.J. Rotman, An Introduction to the Theory of Groups, 4^e éd., tirage de 1999, p. 48.
3. ↑ Pour une démonstration, voir par exemple Josette Calais, Éléments de théorie des groupes, Paris, P.U.F., 1984, p. 163. La démonstration se déduit immédiatement du fait, facile à démontrer, que si G est un groupe de type fini et H un sous-groupe propre de G, la réunion d'un ensemble non vide, totalement ordonné par inclusion, de sous-groupes propres de G contenant H est elle-même un sous-groupe propre de G (contenant H).
4. ↑ Voir par exemple J. Calais, Éléments de théorie des groupes, Paris, P.U.F., 1984, p. 161, ou encore J.J. Rotman, An Introduction to the Theory of Groups, 4^e éd., tirage de 1999, p. 117.
5. ↑ Voir par exemple Josette Calais, Éléments de théorie des groupes, Paris, P.U.F., 1984, ch. IV, exerc. 36, c), p. 174.
6. ↑ Voir par exemple W.R. Scott, Group Theory, rééd. Dover, 1987, p. 143, énoncé 6.4.9.
7. ↑ Pour une démonstration, voir par exemple J.J. Rotman, An Introduction to the Theory of Groups, 4^e éd., tirage de 1999, p. 258.