Représentation de groupe

En mathématiques, l'idée générale de la théorie des représentations est d'étudier un groupe G en le faisant agir sur un espace vectoriel V de manière linéaire : on essaie ainsi de voir G comme un groupe de matrices (d'où le terme représentation). On peut ainsi, à partir des propriétés relativement bien connues du groupe des automorphismes de V, arriver à déduire quelques propriétés de G.

Définitions

Soit G un groupe, K un corps commutatif et V un espace vectoriel sur K. On appelle représentation du groupe G une action linéaire de G sur V, autrement dit un morphisme de groupes de G dans le groupe linéaire GL(V). Plus explicitement, c'est une application

Pour qu'une application ρ de G dans l'espace des endomorphismes de V vérifiant ρ(g₁)∘ρ(g₂)=ρ(g₁g₂) soit en fait à valeurs dans GL(V), il suffit que l'un des ρ(g) soit un automorphisme.

Pour écrire l'action d'un élément g du groupe sur un élément v de l'espace vectoriel à travers la représentation ρ, on notera parfois ρ(g)(v), ρ(g).v ou même g.v s'il n'y a aucune ambiguïté. On note parfois une représentation (V,ρ). On dit parfois également (et abusivement) que V est une représentation de G.

Un morphisme de représentations de G, ou « opérateur d'entrelacement », d'une représentation (V,ρ) vers une représentation (W,σ), est une application K-linéaire φ de V dans W telle que pour tout g appartenant à G on ait

On dit alors aussi que φ est un morphisme G-équivariant de V dans W.

Un cas important est celui où φ est un isomorphisme : les représentations (V,ρ) et (W,σ) sont dites isomorphes ou équivalentes s'il existe un isomorphisme φ de V dans W qui soit G-équivariant, c'est-à-dire qui vérifie, pour tout g appartenant à G :

V et W ont alors même dimension.

Exemples

• La représentation unité de G sur la droite vectorielle K est celle qui à tout élément de G associe l'identité de K.
• Si G est un sous-groupe de GL_n(K), G agit naturellement sur Kⁿ. La représentation associée est appelée représentation standard.
• Si G est le groupe cyclique fini ℤ/nℤ, la donnée d'une représentation de G sur V équivaut au choix d'un élément f de GL(V) tel que f ⁿ = id_V.
• À partir d'une action de G sur un ensemble X, on peut définir une représentation de G sur l'espace K^X des applications de X dans K, en posant : et la restreindre à divers sous-espaces stables, comme :
  • le sous-espace K^(X) des applications à support fini, dont la base canonique (δ_x)_x∊X (où δ désigne le symbole de Kronecker : δ_x(y) vaut 1 pour y=x et vaut 0 pour les autres y∊X) est permutée par chaque élément du groupe : ρ(g)(δ_x)=δ_gx. Pour l'action à gauche de G sur lui-même, la représentation correspondante de G sur K^(G) est appelée la représentation régulière gauche de G.
  • le sous-espace des fonctions continues sur X, si G est un groupe topologique et X un espace topologique et si l'action est continue ou même si on a seulement, pour tout g∊G, continuité de l'application X→X, x↦g.x.

Glossaire des représentations

• Comme toute action de groupe, la représentation est dite fidèle si le morphisme ρ est injectif.
• La représentation est dite matricielle si l'espace V est de la forme Kⁿ pour un certain entier naturel n, auquel cas le groupe (GL_n(V),∘) s'identifie canoniquement au groupe GL_n(K) des matrices carrées d'ordre n à coefficients dans K inversibles (autrement dit : de déterminant non nul), muni du produit matriciel. Via cette identification, deux représentations matricielles R et S sont donc équivalentes si et seulement s'il existe une matrice inversible P telle que pour tout élément g de G, R_g=P ^-1.S_g.P.
• La dimension de V est appelée degré de la représentation. Si V est de dimension finie n (ce que l'on suppose toujours implicitement dans la théorie des représentations d'un groupe fini), la représentation est équivalente à une représentation matricielle, via le choix arbitraire d'un isomorphisme φ de Kⁿ dans V.

Détails

Soit (e_i)_i=1,...,n l'image par φ de la base canonique de Kⁿ. La donnée de cette base de V permet d'associer à chaque endomorphisme a de V une matrice carrée d'ordre n, dont les coefficients a_ij sont les éléments de K donnés par les égalités suivantes :

L'application qui à un endomorphisme a associe la matrice définie précédemment est un isomorphisme d'anneaux, de l'anneau L(V) des endomorphismes de V dans celui, M_n(K), des matrices carrées d'ordre n à coefficients dans K. Ce morphisme induit un isomorphisme de groupes entre les groupes des inversibles de ces deux anneaux : les groupes GL(V) et GL_n(K). Par composition avec cet isomorphisme de groupes, toute représentation de G sur V est équivalente à une représentation matricielle, avec φ pour isomorphisme d'entrelacement.

• Une sous-représentation de (V,ρ) est la représentation (W,σ) obtenue par restriction à un sous-espace vectoriel W stable sous l'action de G.

• Une représentation de degré non nul est dite irréductible si elle n'admet pas d'autre sous-représentation qu'elle-même et la représentation de degré nul, autrement dit si V n'a pas de sous-espace propre stable par l'action de G. En termes matriciels, cela signifie qu'on ne peut pas trouver de base dans laquelle la représentation de G soit donnée par des matrices ayant toutes la même structure triangulaire supérieure par blocs (avec au moins deux blocs).
• La somme directe d'une famille de représentations (V_i,ρ_i) de G est la représentation ρ sur l'espace vectoriel somme directe des V_i définie par : . En termes matriciels, cela signifie qu'en juxtaposant des bases des V_i pour former une base de leur somme directe, la représentation ρ est faite par des matrices diagonales par blocs, chaque bloc correspondant à l'une des représentations ρ_i.
• Une représentation est dite complètement réductible si elle est somme directe de représentations irréductibles.
• Deux représentations sont dites disjointes si elles n'ont aucune composante irréductible commune, ou encore s'il n'existe aucun morphisme non nul entre elles.
• Si V est un espace de Hilbert dont le produit scalaire est invariant sous l'action de G, on dit que la représentation est unitaire (en).
• Si G est un groupe topologique et V un espace vectoriel topologique, la représentation ρ est une représentation continue si l'application G×V→V, (g,v)↦g.v est continue.

Lien avec les K[G]-modules

La K-algèbre de G, notée K[G] et constituée des combinaisons linéaires finies formelles d'éléments de G à coefficients dans K, est une K-algèbre associative dont la multiplication étend naturellement la loi du groupe G.

On peut alors étendre, et ce de façon unique, la représentation ρ en un morphisme de K-algèbres de K[G] vers End(V), en posant

Ceci fait de V un K[G]-module. On dit également que V est un G-module.

Réciproquement, la donnée d'un K[G]-module fournit une représentation de G.

Via ce « dictionnaire » :

• un morphisme de représentations correspond à un morphisme de K[G]-modules ;
• la représentation régulière (cf section « Exemples » ci-dessus) correspond à la structure naturelle de K[G] vu comme module à gauche sur lui-même ;
• une représentation (V,ρ) est irréductible si et seulement si V est simple en tant que K[G]-module ;
• elle est complètement réductible si et seulement si V est semi-simple.

Irréductibilité

Le fait de considérer des représentations irréductibles permet de beaucoup simplifier certains raisonnements : par exemple, d'après le lemme de Schur, un morphisme entre deux modules simples est soit nul, soit inversible.

On peut souvent ramener l'étude des représentations de G à l'étude de ses représentations irréductibles : si V n'est pas irréductible, on peut toujours considérer un sous-espace vectoriel de V qui soit stable par G. Si jamais V est de dimension finie, on pourra ainsi finir par trouver un sous-module simple.

Ce théorème se généralise partiellement aux représentations continues de groupes compacts.

Si G est un groupe fini, toute représentation irréductible complexe (de degré fini) de G est équivalente à une sous-représentation de la représentation régulière.

Référence

Jean-Pierre Serre, Représentations linéaires des groupes finis [détail des éditions]

• Portail des mathématiques