Journal of Lie Theory Volume 9 (1999) 69–112 ◯^{C}1999 Heldermann Verlag

Foncteurs de Zuckerman pour les superalgèbres de Lie

José Carlos de Sousa Oliveira Santos^{∗}

Communicated by J. Faraut

Abstract. Let 𝔤 be a basic classical Lie superalgebra. The aim of this article is the study of certain 𝔤-modules obtained by a method called homological induction. It is proved that the finite-dimensional typical modules can be obtained in this way and the Weyl-Kac character formula is deduced. It is also proved that the vector space spanned by the polynomial functions defined on a Cartan subalgebra 𝔥 of 𝔤 by H ↦ str(ρ(H^{m})), where m ∈ ℕ and ρ is a finite-dimensional representation of 𝔤, contains all polynomials functions invariant under the Weyl group which are multiples of every isotropic root.

Table des matières

Introduction 70

1. Notations et préliminaires 72

2. Modules de Verma généralisés 77

3. Résultats d’algèbre homologique relative 80

4. Foncteurs de Zuckerman 88

5. Principe d’Euler 97

6. Irréductibilité de certaines représentations 101

7. Polynômes invariants sur une sous-algèbre de Cartan 105

∗ L’auteur a été boursier de la Junta de Investigação Científica e Tecnológica et de la Fundação Calouste Gulbenkian et il a participé au projet Praxis/2/2.1/MAT/63/94.

ISSN 0949–5932 / $2.50 ◯^{C} Heldermann Verlag

Introduction

Soit 𝔤 une superalgèbre de Lie complexe contragrédiente de dimension finie telle que 𝔤′ (la superalgèbre dérivée) soit une extension centrale d’une superalgèbre de Lie basique classique et soit G_{0} un groupe de Lie complexe, connexe et simplement connexe dont l’algèbre de Lie soit isomorphe à 𝔤_{0}. On note R(G_{0}) l’algèbre des coefficients matriciels des représentations semi-simples de dimension finie de G_{0}. On va définir une sous-algèbre, notée M(G_{0}), du dual de R(G_{0}). Si V est un 𝔤-module, soit

L_{0}(V) = M(G_{0}) ⊗_{U(𝔤_{0})} V.

Pour chaque i ∈ ℕ on va noter L_{i} le i-ème foncteur dérivé du foncteur L_{0} dans une catégorie convenable. Les objets de notre étude seront certains 𝔤-modules de la forme L_{i}(V).

Dans la première section de l’article on va introduire les notations et définir les objets mathématiques avec lesquels on va travailler. On y énonce aussi quelques résultats dont on aura besoin ensuite.

Dans la deuxième section on définit les modules de Verma généralisés. Pour la définition, supposons que

𝔲^{−} ⊕ 𝔰 ⊕ 𝔲^{+}

soit une décomposition triangulaire de 𝔤 telle que 𝔭 = 𝔰⊕𝔲^{+} soit une sous-algèbre parabolique de 𝔤. Si E est un 𝔰-module, on peut prolonger l’action de 𝔰 dans E à une action de 𝔭 dans E en faisant agir 𝔲^{+} de façon triviale dans E. On note alors

M(𝔭, E) = U(𝔤) ⊗_{U(𝔭)} E.

Les 𝔤-modules de la forme M(𝔭, E) sont les modules de Verma généralisés. Si 𝔰 est une sous-algèbre de Cartan de 𝔤 et dim E = 1, on les appelle modules de Verma.

La troisième section est consacrée à l’étude de l’homologie relative des superalgèbres de Lie, dans le cas général d’abord et dans le cas de certaines soussuperalgèbres de 𝔤 ensuite. On démontre dans cette section un résultat, adapté de certains articles de M. Demazure et I. Penkov (cf. [3] et [19]), concernant le rapport qui existe entre les actions d’une sous-algèbre de Cartan de 𝔤 dans H(𝔫^{0}, V) et H(𝔫^{1}, V), où V est un 𝔤-module et 𝔫^{0} et 𝔫^{1} sont les radicaux nilpotents de deux sous-algèbres de Borel de 𝔤.

Dans la quatrième section on va associer une algèbre, notée M(G_{0}), au groupe de Lie G_{0}; c’est une sous-algèbre du dual de R(G_{0}) pour le produit de convolution. On définit ensuite les foncteurs L_{i} en termes d’homologie relative, comme dans [16]. Ces foncteurs sont duaux des foncteurs introduits par Zuckerman dans des cours faits à l’Institut for Advanced Studies de Princeton (cf. [5], [15],

[16] ou [24]). Dans dans le cas qui nous concerne, si E est de dimension finie, alors les 𝔤-modules L_{i}(M(𝔭, E)) sont de dimension finie.^{2} Si E est un 𝔰-module, alors on dit que le 𝔤-module L_{i}(M(𝔭, E)) (qui est égal à H_{i}(𝔤_{0}, 𝔰_{0}; M(𝔤_{0}) ⊗ M(𝔭, E))) est obtenu à partir de E par induction homologique. On montre que l’on a, pour tout i ∈ ℕ,

L_{i}(M(𝔭, E)) ≃ H_{i} (𝔭, 𝔰_{0}; M(G_{0}) ⊗_{U(𝔤_{0})} U(𝔤) ⊗ E)  (1)

2En particulier, L_{0}(M(𝔭, E)) est le plus grand quotient de dimension finie de M(𝔭, E).

ce qui signifie que les foncteurs L_{i} sont isomorphes aux duaux des foncteurs considérés par I. Penkov dans [19] en termes de géométrie sur les supervariétés de drapeaux. Notons m = dim 𝔲_{0}^{+}. On montre, suivant des raisonnements analogues à ceux de M. Duflo et M. Vergne (cf. [5]) et de N. Wallach (cf. [24]), que si M(𝔭, E) est irréductible, alors L_{i}(M(𝔭, E)) est réduit à {0} si i ≠ m et admet une forme bilinéaire symétrique σ-invariante^{3} non-dégénérée si i = m.

La cinquième section est consacrée à l’étude de la somme alternée des supercaractères des 𝔤-modules L_{i}(M(𝔭, E)).

Supposons maintenant que 𝔥 soit une sous-algèbre de Cartan de 𝔤_{0} et que 𝔟 soit une sous-algèbre de Borel de 𝔤 telles que 𝔥 ⊂ 𝔟. Dans la sixième section on donne des conditions suffisantes pour qu’il existe un nombre i ∈ ℕ tel que L_{i}(M(𝔟, E)) soit irréductible et que, si j ≠ i, alors L_{j}(M(𝔟, E)) soit nul. Les modules L_{i}(M(𝔟, E)) ainsi obtenus sont typiques (au sens de Kac [12]) et on démontre que tout 𝔤-module typique est isomorphe à un module de la forme L_{i}(M(𝔟, E)). Ceci nous permet d’obtenir une nouvelle démonstration de la formule de Victor Kac concernant le caractère des modules typiques (cf. [12]) qui n’utilise pas les résultats concernant le centre de l’algèbre enveloppante de 𝔤 (dont il n’existe d’ailleurs aucune démonstration détaillée publiée). Le point nouveau est la démonstration de l’irréductibilité des modules L_{i}(M(𝔟, E)), qui combine grâce à la formule (1) des méthodes de N. Wallach (pour les foncteurs de Zuckerman; cf. [24]) et de M. Demazure et I. Penkov (pour la démonstration du théorème de Borel-Weil-Bott; cf. [3] et [19]).

Soient 𝔥 et 𝔟 comme dans le paragraphe précédent. Si Λ ∈ 𝔥^{∗} est un poids et i ∈ ℕ, soit π_{Λ,i} l’action de 𝔤 dans L_{i}(M(𝔟, ℂ_{Λ})). Si 𝔤 est une algèbre de Lie, alors on sait (cf. [16, §IV.11]) que tout 𝔤-module irréductible de dimension finie est isomorphe à un 𝔤-module du type L_{i}(M(𝔟, ℂ_{Λ})) et que, pour un poids Λ fixé, L_{i}(M(𝔟, ℂ_{Λ})) = {0} sauf, au plus, pour un seul i ∈ ℕ. On en déduit (cf. [2, §VIII.8.3] ou [4, §7.3]) que les polynômes H ↦ tr(π_{Λ,i}(H)^{m}), définis sur 𝔥, engendrent linéairement l’espace de tous les polynômes W -invariants sur 𝔥. Dans le cas général, on considère les polynômes

\begin{aligned}P_{Λ,m} : & 𝔥 & ⟶ & ℂ \\ & H & ↦ & ∑_{i}(−1)^{i}str (π_{Λ,i}(H)^{m}) \end{aligned}

où m ∈ ℕ \ {0}. On verra que l’espace vectoriel engendré par ces polynômes est l’espace des polynômes sur 𝔥 qui sont W -invariants et multiples de toutes les racines isotropes.

Les six premières sections de cet article constituent une version un peu abrégée de la thèse de doctorat soutenue par l’auteur à l’Université Paris VII – Denis Diderot (cf. [22]).

L’auteur remercie Michel Duflo de l’aide apportée à la rédaction de cet article.

3La notion de σ -invariance d’une forme bilinéaire définie dans un 𝔤-module sera définie dans la première section.

1. Notations et préliminaires

Tout au long de cet article le corps de base est le corps ℂ des nombres complexes.

Les notations employées ici seront, sauf mention explicite du contraire, celles employées par Victor Kac dans [10] et [12].

Si V est un superespace vectoriel tel que les dimensions de V_{0} et V_{1} soient finies, alors on dit que la dimension de V est (dim V_{0}) + (dim V_{1})ϵ et on la voit comme un élément de l’anneau ℤ[ϵ]/(ϵ^{2} − 1). On vérifie facilement que si V et W sont deux superespaces vectoriels, alors dim (V ⊕ W) = dim V + dim W et dim (V ⊗ W) = (dim V) (dim W).

Si V est un superespace vectoriel, soit T (V) sa superalgèbre tensorielle. On définit S(V) comme étant le quotient de T (V) par l’idéal engendré par l’ensemble des éléments de la forme

v ⊗ w − (−1)^{|v||w|}w ⊗ v (v, w ∈ V_{0} ∪ V_{1}).

De façon analogue, soit ⋀(V) la superalgèbre extérieure de V , qui est, par définition, le quotient de T (V) par l’idéal engendré par l’ensemble des éléments de la forme v ⊗ w + (−1)^{|v||w|}w ⊗ v, avec v, w ∈ V_{0} ∪ V_{1}. Si 𝔤 est une superalgèbre de Lie, soit U(𝔤) l’algèbre enveloppante de 𝔤, qui est, par définition, le quotient de T (𝔤) par l’idéal engendré par l’ensemble des éléments de la forme v ⊗ w − (−1)^{|v||w|}w ⊗ v − [v, w], avec v, w ∈ 𝔤_{0} ∪ 𝔤_{1}.

Soit 𝔤 une superalgèbre de Lie. Si ρ_{V} et ρ_{W} sont deux représentations de 𝔤 dans deux superespaces vectoriels V et W, on note hom_{𝔤}(V, W) l’espace des éléments invariants de hom(V, W); ce sont les morphismes de 𝔤-modules. Les modules V et W sont dits isomorphes s’il existe un morphisme homogène inversible f ∈ hom_{𝔤}(V, W). Remarquons qu’avec cette définition f peut être impair; en particulier, nous considérons comme isomorphes deux modules obtenus l’un de l’autre par un changement de parité.

La représentation adjointe de 𝔤 dans 𝔤 induit une action de 𝔤 dans U(𝔤) que l’on appelle aussi représentation adjointe. Pour tout X ∈ 𝔤 on note L(X) et R(X) les endomorphismes de U(𝔤) définis par L(X)(u) = Xu (u ∈ U(𝔤)) et par R(X)(u) = −(−1)^{|X||u|}uX (u ∈ U(𝔤)). Les fonctions L et R sont des représentations de 𝔤 dans U(𝔤); on les appelle respectivement représentation régulière gauche et représentation régulière droite de 𝔤 dans U(𝔤).

Soient V et W deux superespaces vectoriels et soit 𝔤 une superalgèbre de Lie qui opère à droite dans V et opère à gauche dans W. On note V ⊗_{U(𝔤)} W le quotient du superespace vectoriel V ⊗ W par le sous-espace engendré par les éléments de la forme

vX ⊗ w − v ⊗ Xw (v ∈ V, w ∈ W, X ∈ 𝔤).

Si ρ : U(𝔤) ⟶ End(V) est une représentation de U(𝔤), on appelle annulateur de V dans U(𝔤) le noyau de ρ, c’est-à-dire l’idéal {u ∈ U(𝔤) : ρ(u) ≡ 0}.

Soient n ∈ ℕ, A = (a_{ij}) ∈ M_{n}(ℂ), τ un sous-ensemble de {1, 2, …, n}, l le rang de A et 𝔥 un espace vectoriel complexe de dimension 2n−l. On choisit dans 𝔥 (resp. 𝔥^{∗}) un ensemble linéairement indépendant {h_{i}}_{i∈{1,...,n}} (resp. {α_{i}}_{i∈{1,...,n}}) de telle façon que l’on ait ⟨h_{i}, α_{j}⟩ = a_{ij} pour i, j ∈ {1, 2, …, n}. Soit 𝔤̂(A, τ) la superalgèbre de Lie linéairement engendrée par l’ensemble 𝔥 ∪ {e_{i}}_{i} ∪ {f_{i}}_{i} et par les relations :

\begin{matrix}[e_{i}, f_{j}] = δ_{ij}h_{i} & (i, j ∈ \{1, …, n\}) \\ [H, H′] = 0 & (H, H′ ∈ 𝔥) \\ [H, e_{i}] = α_{i}(H)e_{i} & (H ∈ 𝔥; i ∈ \{1, …, n\}) \\ [H, f_{i}] = −α_{i}(H)f_{i} & (H ∈ 𝔥; i ∈ \{1, …, n\}) \\ |e_{i}| = |f_{i}| = 0 & (i ∈ \{1, …, n\} \ τ) \\ |e_{i}| = |f_{i}| = 1 & (i ∈ τ) \\ |H| = 0 & (H ∈ 𝔥). \end{matrix}

On démontre (cf. [9]) que, à équivalence près, 𝔤̂(A, τ) ne dépend pas du choix des h_{i} et des α_{i} et que parmi les idéaux de 𝔤̂(A, τ) il y en a un et un seul qui est maximal par rapport à la propriété de ne contenir aucun élément non nul de 𝔥. Soit 𝔤(A, τ) le quotient de 𝔤̂(A, τ) par cet idéal.

Définition 1.1. Suivant [9] et [23], on appelle superalgèbre de Lie contragrédiente une superalgèbre de la forme 𝔤(A, τ).

On va énoncer quelques unes des propriétés des superalgèbres de Lie contragrédientes; pour les détails, voir [10] ou [23]. Soient alors n ∈ ℕ, A = (a_{ij}) ∈ M_{n}(ℂ) et τ un sous-ensemble de {1, 2, …, n}.

On note Δ (l’ensemble des racines), Δ_{0} et Δ_{1} comme dans [10] et dans [23]. On note aussi :

\overline{Δ_{0}} = \{α ∈ Δ_{0}|\frac{α}{2} ∉ Δ_{1}\} et \overline{Δ_{1}} = \{α ∈ Δ_{1}|2α ∉ Δ_{0}\} .

Signalons le résultat suivant (cf. [23, §2.3]) :

Proposition 1.2. Il existe un et un seul antiautomorphisme σ de 𝔤(A, τ) tel que σ|_{𝔥} = Id_{𝔥} et que pour tout i ∈ {1, …, n} on ait σ(e_{i}) = (−1)^{|f_{i}|}f_{i} et σ(f_{i}) = e_{i}.

L’antiautomorphisme σ induit un antiautomorphisme de U(𝔤(A, τ)), i. e. un endomorphisme linéaire de U(𝔤(A, τ)) (qui sera noté aussi σ) qui vérifie σ(uv) = (−1)^{|u||v|}σ(v)σ(u) quand u, v ∈ U(𝔤(A, τ)). Pour tout u ∈ U(𝔤(A, τ)) on a σ^{2}(u) = (−1)^{|u|}u.

On va noter 𝔤′(A, τ) la superalgèbre dérivée de 𝔤(A, τ). Soit 𝔥′ le sousespace de 𝔥 engendré par {h_{i} : 1 ≤ i ≤ n}. Soit 𝔥′′ un supplémentaire de 𝔥′ dans 𝔥. On démontre (cf. [23, §IV.1]) que l’on a

𝔤(A, τ) = 𝔤′(A, τ) ⊕ 𝔥′′ et 𝔤′(A, τ) ⋂ 𝔥 = 𝔥′.

Soit 𝔠 le centre de 𝔤(A, τ). On démontre (cf. [23, §II.3]) que 𝔠 ⊂ 𝔥′. En particulier, 𝔠 ⊂ 𝔤_{0}.

Théorème 1.3. Soit 𝔠 le centre de 𝔤(A, τ). Si la matrice A vérifie la propriété

∀_{i,j∈{1,2,...,n}} ∃_{i_{1},i_{2},...,i_{s}∈{1,2,...,n}} a_{ii_{1}}a_{i_{1}i_{2}} … a_{i_{s}j} ≠ 0  (2)

et si la dimension de 𝔤(A, τ) est finie, alors la superalgèbre de Lie 𝔤′(A, τ)/𝔠 est basique classique. Réciproquement, si 𝔤 est une superalgèbre de Lie basique classique, alors il existe un n ∈ ℕ, une matrice A ∈ M_{n}(ℂ) et un ensemble τ ⊂ {1, …, n} tels que, si 𝔠 est le centre de 𝔤(A, τ), alors on a :

𝔤 ≃ 𝔤′(A, τ)/𝔠.

Pour la démonstration du théorème, voir [10, §2], [12, §1], et [23, §V.1]. D’après V. Kac (cf. [10]), on a le résultat suivant :

Théorème 1.4. Soit 𝔤 une superalgèbre de Lie. Les conditions suivantes sont équivalentes :

1. La superalgèbre de Lie 𝔤 est isomorphe à une super algèbre de Lie contragrédiente 𝔤(A, τ) de dimension finie telle que la matrice A vérifie la propriété (2).

2. Ou bien il existe un m > 1 tel que 𝔤 soit isomorphe à 𝔤𝔩(m, m) ou bien 𝔤 est une superalgèbre de Lie basique classique non isomorphe à 𝔭𝔰𝔩(m, m) (m > 1).

Jusqu’à la fin de cet article, sauf mention explicite du contraire, on va noter 𝔤 une superalgèbre de Lie qui vérifie les conditions équivalentes du théorème précédent.

En particulier, on a :

Proposition 1.5. L’algèbre de Lie 𝔤_{0} est réductive et le 𝔤_{0}-module 𝔤 est complètement réductible.

Remarquons que si 𝔤 = 𝔤𝔩(m, m), alors 𝔤′ = 𝔰𝔩(m, m) et 𝔤′/𝔠 = 𝔭𝔰𝔩(m, m). Comme on a vu dans le théorème 1.4, les superalgèbres de Lie de la forme 𝔤𝔩(m, m) sont contragrédientes. De plus, toute représentation de 𝔰𝔩(m, m) est la restriction à 𝔰𝔩(m, m) d’une représentation de 𝔤𝔩(m, m) et toute représentation de 𝔭𝔰𝔩(m, m) peut s’obtenir à partir d’une représentation de 𝔰𝔩(m, m) par passage au quotient. On voit donc que l’étude des représentations des superalgèbres de Lie qui vérifient les conditions équivalentes du théorème 1.4 contient l’étude des représentations des superalgèbres de Lie basiques classiques.

On démontre (cf. [9, §II.2], [10, §2.5] ou [23, ch. IV–V]) qu’il existe une forme bilinéaire sur 𝔤×𝔤 qui est non-dégénérée, paire, supersymétrique, invariante et dont la restriction à 𝔥′′ × 𝔥′′ est nulle. On va choisir une telle forme bilinéaire et on va la noter (·, ·). Si α, β ∈ Δ ∪ {0}, alors la restriction de (·, ·) à 𝔤_{α} × 𝔤_{β} est non-dégénérée (respectivement nulle) si α + β = 0 (resp. ≠ 0). En particulier, la restriction de (·, ·) à 𝔥 × 𝔥 est non-dégénérée et symétrique.

Définition 1.6. Si α ∈ 𝔥^{∗}, on note H_{α} l’élément de 𝔥 tel que, pour tout H ∈ 𝔥, α(H) = (H_{α}, H). Si α ∈ 𝔥^{∗} et β ∈ 𝔥^{∗}, on pose (α, β) = (H_{α}, H_{β}).

On a donc : ∀_{α∈Δ} ∀_{X∈𝔤_{α}} ∀_{Y ∈𝔤_{−α}} [X, Y] = (X, Y)H_{α}.

Définition 1.7. On dit qu’une racine α est isotrope si α(H_{α}) = 0 (ou, ce qui est équivalent, si (α, α) = 0).

L’ensemble des racines isotropes est égal à \overline{Δ_{1}} (cf. [12, §1.4]).

Définition 1.8. Un élément λ ∈ 𝔥^{∗} est dit typique si ∀_{α∈\overline{Δ_{1}}} λ(H_{α}) ≠ 0.

Définition 1.9. Si α est une racine non isotrope, on note

h_{α} = \{ \begin{matrix}2H_{α}/(α, α) & si α ∈ Δ_{0} \\ H_{α}/(α, α) & si α ∈ Δ_{1} et 2α ∈ Δ_{0}. \end{matrix}

Remarquons que si α ∈ Δ_{1} et 2α ∈ Δ_{0}, alors h_{α} = h_{2α}.

Si α ∈ Δ, la dimension de 𝔤_{α} est égale à 1 (cette assertion est vraie pour n’importe quelle superalgèbre de Lie basique classique à l’exception près de 𝔭𝔰𝔩(2, 2), d’après [12, proposition 1.3]; elle peut être facilement vérifiée si 𝔤 ≃ 𝔤𝔩(m, m) et en particulier pour m = 2).

Définition 1.10. Si α ∈ Δ, on note

𝔫^{α} = ⨁_{k∈ℕ\{0}} 𝔤_{kα} et 𝔤^{α} = 𝔫^{−α} ⊕ 𝔥 ⊕ 𝔫^{α}.

Il est clair que 𝔫^{α} et 𝔤^{α} sont des sous-algèbres de 𝔤. Si α ∈ Δ et k ∈ ℕ \ {0, 1}, alors kα ∈ Δ si et seulement si k = 2 et α est une racine impaire non isotrope (cf. [12, §1.4]); on en déduit que :

𝔫^{α} = \{ \begin{matrix}𝔤_{α} & si α ∈ Δ_{0} ⋃ \overline{Δ_{1}} \\ 𝔤_{α} ⊕ 𝔤_{2α} & si α ∈ Δ_{1} \\overline{Δ_{1}} . \end{matrix}

Si V est un 𝔤-module (ou, plus généralement, un 𝔥-module) et μ ∈ 𝔥^{∗}, on note :

V_{μ} = {v ∈ V |(∀_{H∈𝔥})Hv = μ(H)v} .

Définition 1.11. On dit qu’un 𝔤-module V admet un supercaractère si :

1. ∀_{μ∈𝔥^{∗}} dim V_{μ} < +∞;

2. V = ⨁_{μ∈𝔥^{∗}} V_{μ}.

Si V admet un supercaractère, alors on appelle supercaractère de V , et l’on note sch(V), l’élément μ ⟼ dim V_{μ} de ℤ^{𝔥^{∗}}[ϵ]/(ϵ^{2} − 1).

Si le 𝔤-module V admet un supercaractère, on note ch(V) (respectivement sch_{−1}(V)) l’élément de ℤ^{𝔥^{∗}} que l’on obtient si on remplace ϵ par 1 (resp. −1).

Définition 1.12. Si Ψ est un sous-ensemble de Δ, on dit que Ψ est clos si chaque élément de Δ qui est somme de deux éléments de Ψ est aussi un élément de Ψ. On dit que Ψ est borélien si Ψ est clos et si

1. Δ = Ψ ∪ (−Ψ);

2. Ψ ⋂ −Ψ = Ø.

On dit que Ψ est parabolique si Ψ est clos et si Ψ contient un sous-ensemble borélien de Δ.

Si Ψ est un sous-ensemble clos de Δ on lui associe la sous-algèbre de 𝔤 définie par :

𝔤^{Ψ} = 𝔥 ⊕ ( ⨁_{α∈Ψ} 𝔤_{α}).

Si Ψ est un sous-ensemble parabolique (respectivement borélien) de Δ, on dit que 𝔤^{Ψ} est une sous-algèbre parabolique (resp. de Borel) de 𝔤. Si 𝔟 = 𝔤^{Ψ} est une sous-algèbre de Borel de 𝔤, on note Δ^{+}(𝔟) = Ψ.

Définition 1.13. Si Ψ est un sous-ensemble borélien de Δ et si α ∈ Δ, on dit que α est simple par rapport à Ψ si α ∈ Ψ et si α ∉ Ψ + Ψ.

Remarquons que si Ψ est un sous-ensemble borélien de Δ, alors l’ensemble des racines simples de Ψ est linéairement indépendant. On peut le vérifier cas par cas, car la liste des systèmes de racines de chaque superalgèbre de Lie basique classique est connue et pour chaque système de racines on connaît tous les sous-ensembles de racines simples (cf. [23, §5.3]). On en déduit que si 2α ∉ Δ (respectivement ∈ Δ), alors Ψ ⋃{−α} (resp. Ψ ⋃{−α, −2α}) est un sous-ensemble parabolique de Δ.

Définition 1.14. Soit Ψ un sous-ensemble borélien de Δ et soit α ∈ Ψ une racine simple. On note

𝔫_{Ψ}(α) = \{ \begin{matrix}⨁_{β∈Ψ\\{α\}} 𝔤_{β} & si α ∈ Δ_{0} ⋃ \overline{Δ_{1}} \\ ⨁_{β∈Ψ\\{α,2α\}} 𝔤_{β} & si α ∈ Δ_{1} \\overline{Δ_{1}} \end{matrix}

et

Ψ_{α} = \{ \begin{matrix}Ψ ∪ \{−α\} & si α ∈ Δ_{0} ⋃ \overline{Δ_{1}} \\ Ψ ∪ \{−α, −2α\} & si α ∈ Δ_{1} \\overline{Δ_{1}}. \end{matrix}

Proposition 1.15. Soit Ψ un sous-ensemble borélien de Δ et soit α ∈ Ψ une racine simple. L’espace vectoriel 𝔫_{Ψ}(α) est un idéal de 𝔤^{Ψ_{α}} et

𝔤^{Ψ_{α}} = 𝔫_{Ψ}(α) ⊕ 𝔤^{α}.

Démonstration. Puisque α est une racine simple et les racines simples sont linéairement indépendantes, on voit que [𝔫_{Ψ}(α), 𝔫^{±α}] ⊂ 𝔫_{Ψ}(α); on en déduit que 𝔫_{Ψ}(α) est un idéal de 𝔤^{Ψ_{α}}.

La deuxième assertion de l’énoncé est triviale.

Si V est un 𝔤-module irréductible (au sens gradué) de dimension finie et 𝔟 est une sous-algèbre de Borel, on peut trouver un élément λ ∈ 𝔥^{∗} tel que V_{λ} ≠ {0} et tel que si α ∈ Δ^{+}(𝔟), alors V_{λ+α} = {0}. Comme pour les algèbres de Lie semi-simples (cf. [4, §7.2]) on démontre que λ est unique. On dit que λ est le plus haut poids de V ; cette notion dépend du choix de 𝔟.

Remarquons que 𝔥 est une sous-algèbre de Cartan de l’algèbre de Lie 𝔤_{0}. On note Q ⊂ 𝔥^{∗} le réseau des poids de (𝔤_{0}, 𝔥); c’est l’ensemble des λ ∈ 𝔥^{∗} tels que l’on ait λ(h_{α}) ∈ ℤ pour toute racine paire α. Remarquons que Q ⊃ Δ. A chaque sous-ensemble borélien Ψ de Δ, on fait correspondre une relation d’ordre partielle ≥_{Ψ} sur l’ensemble Q telle que :

1. λ ≥_{Ψ} 0 ssi λ ∈ ∑_{α∈Ψ} ℕα;

2. λ′ ≥_{Ψ} λ ssi λ′ − λ ≥_{Ψ} 0.

Pour chaque sous-ensemble borélien Ψ de Δ et si 𝔟 est la sous-algèbre de Borel associée, on note :

ρ_{𝔟} = \frac{1}{2} ( ∑_{α∈Ψ∩Δ_{0}} α − ∑_{α∈Ψ∩Δ_{1}} α) .

On note aussi :

ρ_{0} = \frac{1}{2} ∑_{α∈Δ_{0}∩Ψ} α,  ρ_{1} = \frac{1}{2} ∑_{α∈Δ_{1}∩Ψ} α.

Remarquons que ρ_{0} et ρ_{1} dépendent de Ψ et que ρ_{𝔟} = ρ_{0} − ρ_{1}.

2. Modules de Verma généralisés

Définition 2.1. Soit Ψ un sous-ensemble parabolique^{4} de Δ. On note :

𝔲^{±} = ⨁_{α∈Ψ\−Ψ} 𝔤_{±α},  𝔰 = 𝔥 ⊕ ( ⨁_{α∈Ψ∩−Ψ} 𝔤_{α}) ,

𝔭 = 𝔤^{Ψ} = 𝔥 ⊕ ( ⨁_{α∈Ψ} 𝔤_{α}) = 𝔰 ⊕ 𝔲^{+}.

On vérifie facilement que 𝔤 = 𝔲^{−} ⊕ 𝔰 ⊕ 𝔲^{+} et que l’on a :

Proposition 2.2. La superalgèbre de Lie 𝔲^{+} est un idéal de 𝔭.

On déduit de la proposition précédente que tout 𝔰-module E devient un 𝔭-module avec 𝔲^{+} agissant trivialement dans E.

Soit Ψ_{0} = Ψ ∩ Δ_{0}. Il est évident que 𝔭_{0} = 𝔥 ⊕ (⨁_{α∈Ψ_{0}} 𝔤_{α}) . On sait que 𝔭_{0} est une sous-algèbre parabolique de 𝔤_{0} et que 𝔰_{0} est une algèbre de Lie réductive (cf. [2, §VIII.3]).

4Cf. définition 1.12.

Si E est un 𝔥-module, λ ∈ 𝔥^{∗} et E_{λ} ≠ {0}, on dit que λ est un poids de E. Soit E un 𝔰-module. On pose

M(𝔭, E) = U(𝔤) ⊗_{U(𝔭)} E.

On dit que M(𝔭, E) est un module de Verma généralisé. Si aucune confusion n’est à craindre, on le note M(E).

Lemme 2.3. Soit E un 𝔰-module. On a :

1. Le module M(E) est U(𝔲^{−})-libre.

2. Si M est un 𝔤-module engendré par un sous-𝔭-module E′ isomorphe à E, alors M est isomorphe à un quotient de M(E).

3. Si E est irréductible de dimension finie, alors le module M(E) possède un et un seul quotient irréductible.

4. Si E est un 𝔥-module semi-simple, il en est de même de M(E).

Démonstration. Les propriétés 1 et 2 peuvent être démontrées comme dans le cas des algèbres de Lie (cf. [4, §7.1]) et la démonstration de la propriété 4 est triviale. Supposons maintenant que E soit un 𝔰-module irréductible de dimension finie. Il est donc 𝔥-semi-simple. Soit N la somme de tous les sous-modules propres de M(E). On va démontrer que N est aussi un sous-module propre de M(E) et donc que N est le seul sous-module propre maximal de M(E); on en déduit que M(E) possède un et un seul quotient irréductible.

Supposons le contraire. Soit Ω un sous-ensemble borélien de Ψ. Puisque la dimension de E est finie, on peut trouver un poids λ de E qui est maximal par rapport à la relation d’ordre ≤_{Ω}. Soit v ∈ E_{λ} \ {0}. On déduit du fait que E est irréductible que E_{λ} = ℂv. Le vecteur 1 ⊗ v ∈ N est aussi un vecteur de poids λ. Si on écrit 1 ⊗ v sous la forme ∑_{i=1}^{k} n_{i} où chaque n_{i} appartient à un sous-module propre N_{i} de M(E), alors on peut supposer que pour chaque i ∈ {1, 2, …, k} le vecteur n_{i} est aussi un vecteur de poids λ. On voit que chaque n_{i} doit être proportionnel à 1 ⊗ v, car dim M(E)_{λ} = 1. Si on prend i ∈ {1, 2, …, k} tel que n_{i} ≠ {0}, alors le sous-module N_{i} n’est pas un sous-module propre de M(E), contrairement à ce qu’on avait supposé.

Si E est un 𝔰-module irréductible de dimension finie, on note L(E) le seul quotient irréductible de M(E).

L’antiautomorphisme σ (qui a été défini dans la proposition 1.2) induit un antiautomorphisme dans 𝔰. En fait, puisque α ∈ (Ψ ∩ −Ψ) ⇒ −α ∈ (Ψ ∩ −Ψ) et que pour toute racine α on a σ(𝔤_{α}) = 𝔤_{−α} (cf [9, §I.1.3]), on voit d’après la définition de 𝔰 que σ(𝔰) ⊂ 𝔰. On va noter aussi σ la restriction de σ à 𝔰.

Définition 2.4. Soient a un antiautomorphisme de 𝔤 et V un 𝔤-module. Si B : V × V ⟶ ℂ est une forme bilinéaire paire, on dit que B est a-invariante si

∀_{X∈𝔤}∀_{v,w∈V} B(Xv, w) = (−1)^{|X||v|}B(v, a(X)w).

Remarquons que si E est un 𝔰-module engendré par un élément de plus haut poids λ par rapport à un sous-ensemble borélien Ω de Ψ ∩ −Ψ (donc, en particulier, si E est irréductible de dimension finie), alors on peut définir une forme bilinéaire non nulle, paire, symétrique^{5} et σ-invariante sur E. C’est un cas particulier de la proposition 2.5 ci-dessous.

Le théorème de Poincaré-Birkhoff-Witt implique l’existence de la décomposition en somme directe de U(𝔤) donnée par :

U(𝔤) = U(𝔰) ⊕ (𝔲^{−}U(𝔤) + U(𝔤)𝔲^{+}) .

On note P_{Ψ} la projection de U(𝔤) dans U(𝔰) induite par cette décomposition.

Soit (·, ·) une forme bilinéaire paire, symétrique et σ-invariante définie sur le module E. On considère la forme bilinéaire B̃ définie sur U(𝔤) ⊗ E par la formule :

B̃(X ⊗ w, Y ⊗ w′) = (−1)^{|X||w|}(w, P_{Ψ}(σ(X)Y)w′).

Elle définit par passage au quotient une forme bilinéaire B sur M(E).

Proposition 2.5. Soit E un 𝔰-module 𝔥-semi-simple de dimension finie. La forme bilinéaire B (définie dans le paragraphe précédent) est paire, symétrique et σ-invariante. Si E est irréductible et la forme (·, ·) est non-dégénérée, alors le noyau de B est le sous-module maximal de M(E).

Remarquons que la symétrie de la forme bilinéaire B est une conséquence du fait que u ∈ U(𝔤) ⟹ σ^{2}(u) = (−1)^{|u|}u.

Soit π : U(𝔤) ⊗ E ⟶ M(E) la projection naturelle. Soit, pour chaque i ∈ ℕ, V_{i} = π (U(𝔤_{0})U_{i}(𝔤) ⊗ M(E)). On pose m = dim(𝔤/(𝔤_{0} + 𝔭)).

Lemme 2.6. Les V_{i} sont des sous-𝔤_{0}-modules de M(E) et V_{m} = M(E). Le 𝔤_{0}-module M(E) admet une filtration de longueur finie par les 𝔤_{0}-modules {0} ⊂ V_{0} ⊂ V_{1} ⊂ … ⊂ V_{m} = M(E) et, pour i ∈ {0, 1, …, m}, on a

V_{i}/V_{i−1} ≃ U(𝔤_{0}) ⊗_{U(𝔭_{0})} (S^{i}(𝔤/(𝔤_{0} + 𝔭)) ⊗ E) .

La démonstration se fait comme dans le cas des algèbres de Lie (cf. [24, §VI.4]), à condition de remarquer que l’on a V_{i} = V_{i+1} pour tout i ≥ m, car l’espace vectoriel 𝔤/(𝔤_{0} + 𝔭) est totalement impair.

Supposons que l’ensemble Ψ soit borélien; dans ce cas on a 𝔰 = 𝔥. On note 𝔟 = 𝔤^{Ψ}. Si λ ∈ 𝔥^{∗}, on note ℂ_{λ} le 𝔥-module de dimension 1 tel que 𝔥 opère par λ, i. e. si H ∈ 𝔥 et c ∈ ℂ_{λ}, alors Hc = λ(H)c. On note M(𝔟, λ) le module M(𝔟, ℂ_{λ}). D’après le lemme 2.3, le module M(𝔟, λ) possède un et un seul sous-module maximal; on note L(𝔟, λ) le quotient de M(𝔟, λ) par ce module.

Le résultat suivant est dû à I. Penkov et V. Serganova (cf. [21, §0.1.5]).^{6}

Proposition 2.7. Soient 𝔟 et 𝔟^{#} deux sous-algèbres de Borel de 𝔤 telles que 𝔟_{0} = 𝔟_{0}^{#} et soit λ ∈ 𝔥^{∗} un poids typique^{7}. Alors les 𝔤-modules M(𝔟, λ − ρ_{𝔟}) et M(𝔟^{#}, λ − ρ_{𝔟^{#}}) sont isomorphes.

5Il s’agit vraiment d’une forme bilinéaire symétrique et non supersymétrique.

6Pour être plus précis, l’article en question n’examine pas toutes les superalgèbres de Lie avec lesquelles on travaille; parmi celles-ci, seules 𝔤𝔩(m, m), 𝔰𝔩(m, n) et 𝔬𝔰𝔭(m, n) sont étudiées. Mais l’assertion peut être facilement vérifiée cas par cas si 𝔤 n’est pas de cette forme.

7Cf. définition 1.8.

3. Résultats d’algèbre homologique relative

Dans cette section on rappelle quelques définitions concernant l’homologie relative des superalgèbres de Lie. Pour plus de détails, cf. [6, §1.6], [10, §5.5.3] ou [18].

Soit 𝔞 une superalgèbre de Lie de dimension finie et soit 𝔪 une sous-algèbre de 𝔞. Pour chaque 𝔞-module E on va définir les groupes d’homologie relative H_{i}(𝔞, 𝔪; E). La superalgèbre de Lie 𝔪 opère à gauche de façon naturelle dans 𝔞/𝔪 et cette action à gauche induit une action à droite de 𝔪 dans 𝔞/𝔪. L’action à droite de 𝔪 dans 𝔞/𝔪 induit une action à droite de 𝔪 dans ⋀(𝔞/𝔪). Soit n ∈ ℤ. On note

C_{n}(𝔞, 𝔪; E) = ⋀^{n}(𝔞/𝔪) ⊗_{U(𝔪)} E

si n ∈ ℕ et C_{n}(𝔞, 𝔪; E) = {0} si n < 0. On note C_{n}(𝔞, E) l’espace C_{n}(𝔞, {0}; E).

Soit Π𝔞 le superespace vectoriel 𝔞 muni de la 𝔽_{2}-graduation donnée par (Π𝔞)_{0} = 𝔞_{1} et (Π𝔞)_{1} = 𝔞_{0}. Soit 𝔞̃ le superespace vectoriel 𝔞 ⊕ Π𝔞. Si X ∈ 𝔞, on note X (respectivement X̃) l’élément (X, 0) (resp. (0, X)) de 𝔞̃. Dans l’espace 𝔞̃, on considère la structure de superalgèbre de Lie qui prolonge la structure de superalgèbre de Lie de 𝔞 ⊕ {0} et telle que si X, Y ∈ 𝔞, alors :

1. [X̃, Y ] = ˜ [X, Y];

2. [X̃, Ỹ ] = 0.

On note d la dérivation impaire de 𝔞̃ telle que d(X) = 0 et d(X̃) = X pour tout X ∈ 𝔞. Elle s’étend en une dérivation de l’algèbre enveloppante U(𝔞̃) notée encore d. La dérivation d est impaire, U(𝔞)-linéaire et vérifie d^{2} = 0. On déduit du théorème de Poincaré-Birkhoff-Witt que l’on a

⋀(𝔞) ⊗ U(𝔞) ≃ U(𝔞̃),

l’isomorphisme étant un isomorphisme de 𝔞-modules; en conséquence, on identifie ⨁_{n} C_{n}(𝔞, E) à U(𝔞̃)⊗_{U(𝔞)} E. On écrira donc X̃_{1} ⋯ X̃_{n} ⊗v (avec X_{1},…,X_{n} ∈ 𝔞 et v ∈ E) un élément typique de C_{n}(𝔞, E). L’application d⊗1 induit une application, encore notée d, de degré −1 et de carré nul dans ⨁_{n} C_{n}(𝔞, E). Par exemple, on a d(v) = 0 et d(X̃ ⊗v) = Xv pour tout X ∈ 𝔞 et tout v ∈ E. L’application d induit une application^{8}, encore notée d, de degré −1 et de carré nul dans ⨁_{n} C_{n}(𝔞, 𝔪; E).

On pose :

H_{i}(𝔞, 𝔪; E) = \frac{ker d : C_{i}(𝔞, 𝔪; E) → C_{i−1}(𝔞, 𝔪; E)}{d(C_{i+1}(𝔞, 𝔪; E))}·

Si 𝔪 = {0}, H_{i}(𝔞, 𝔪; E) est noté H_{i}(𝔞, E).

Soit 𝔫 une sous-algèbre de Lie de 𝔞 telle que [𝔫, 𝔪] ⊂ 𝔫. La superalgèbre de Lie 𝔪 opère de façon naturelle dans ⋀^{k}(𝔫) pour chaque k ∈ ℕ. Il y a donc une action naturelle de 𝔪 dans ⋀^{k}(𝔫)⊗E pour chaque 𝔞-module E. Cette action commute à l’opérateur :

d : ⋀^{k}(𝔫) ⊗ E ⟶ ⋀^{k−1}(𝔫) ⊗ E

et induit une action de 𝔪 dans H_{k}(𝔫, E). Ceci démontre la proposition suivante :

8Cette façon de définir la fonction d (i. e. à partir de U(𝔞̃)) est due à Pierre Cartier.

Proposition 3.1. Soient 𝔞 une superalgèbre de Lie, 𝔪 et 𝔫 des sous-algèbres de Lie de 𝔞 et E un 𝔞-module. Si [𝔫, 𝔪] ⊂ 𝔫, alors l’action naturelle de 𝔪 dans ⋀^{k}(𝔫) ⊗ E induit une action de 𝔪 dans H_{k}(𝔫, E).

On dispose aussi du résultat suivant :

Proposition 3.2. Soient 𝔞 une superalgèbre de Lie, 𝔪 et 𝔫 des sous-algèbres de Lie de 𝔞 et E un 𝔞-module. Supposons que 𝔪 soit une algèbre de Lie réductive qui opère de façon semi-simple dans 𝔞 et dans E, que 𝔫 soit un idéal de 𝔞 et que

𝔞 = 𝔫 ⊕ 𝔪.  (3)

Alors on a :

∀_{n∈ℕ} H_{n}(𝔞, 𝔪; E) ≃ H_{n}(𝔫, E)^{𝔪}.

Démonstration. Remarquons d’abord que, puisque 𝔫 est un idéal de 𝔞, on a [𝔫, 𝔪] ⊂ 𝔫 et donc que 𝔪 opère dans H_{k}(𝔫, E) d’après la proposition 3.1; on peut donc parler de H_{n}(𝔫, E)^{𝔪}.

On a :

C_{n}(𝔞, 𝔪; E) = ⋀^{n}(𝔞/𝔪) ⊗_{U(𝔪)} E (par définition)
≃ ⋀^{n}(𝔫) ⊗_{U(𝔪)} E (par (3))
≃ (⋀^{n}(𝔫) ⊗ E)^{𝔪}

car l’action de 𝔪 est semi-simple, et donc, toujours parce que l’action de 𝔪 est semi-simple,

H_{n}(𝔫, E)^{𝔪} = \frac{ker(restriction de d à C_{n}(𝔫, E)^{𝔪})}{d(C_{n+1}(𝔫, E)^{𝔪})}
= \frac{ker d : C_{n}(𝔞, 𝔪; E) → C_{n−1}(𝔞, 𝔪; E)}{d(C_{n+1}(𝔞, 𝔪; E))}
= H_{n}(𝔞, 𝔪; E).

De manière duale on définit la cohomologie relative H^{i}(𝔞, 𝔪; E) comme la cohomologie d’un complexe dont le groupe sous-jacent est Hom_{𝔪}(⋀(𝔞/𝔪), E). Nous renvoyons aux références citées pour plus de détails.

Soient maintenant 𝔟 une superalgèbre de Lie de dimension finie et 𝔫 une sous-algèbre de 𝔟. Soit E un superespace vectoriel dans lequel 𝔞 opère à gauche et 𝔟 opère à droite de telle façon que l’action à gauche commute avec l’action à droite. On peut considérer les groupes d’homologie relative

H_{i} (𝔞 × 𝔟, 𝔪 × 𝔫; E) .

Pour le faire, on considère l’action à gauche de 𝔟 dans E définie par :

Xv = −(−1)^{|X||v|}vX (X ∈ 𝔟, v ∈ E);

E devient alors un 𝔞 × 𝔟-module à gauche.

Soit E𝔟 le sous-𝔟-module de E engendré par les éléments de la forme vX, avec v ∈ E et X ∈ 𝔟. Puisque l’action de 𝔞 dans E commute avec celle de 𝔟, on voit que E𝔟 et E/E𝔟 ont des structures naturelles de 𝔞-modules.

Proposition 3.3. Supposons que :

∀_{n≥1} ∀_{p∈ℕ} H_{n} (𝔟, 𝔫; ⋀^{p}(𝔞/𝔪) ⊗_{U(𝔪)} E) = {0}.

Alors :

∀_{n∈ℕ} H_{n} (𝔞 × 𝔟, 𝔪 × 𝔫; E) ≃ H_{n} (𝔞, 𝔪; E/E𝔟) .

Démonstration. Pour p, q ∈ ℕ, on note C_{p,q} l’espace

⋀^{p}(𝔞/𝔪) ⊗_{U(𝔪)} E ⊗_{U(𝔫)} ⋀^{q}(𝔟/𝔫).

En particulier,

C_{n,0} = ⋀^{n}(𝔞/𝔪) ⊗_{U(𝔪)} E/E𝔫.

On identifie ⨁_{p,q} ⋀^{p}(𝔞) ⊗ E ⊗ ⋀^{q}(𝔟) et U(𝔞̃) ⊗_{U(𝔞)} E ⊗_{U(𝔟)} U(𝔟̃). Notons d^{⋆} la différentielle de U(𝔟̃). On étend les différentielles d et d^{⋆} à

U(𝔞̃) ⊗_{U(𝔞)} E ⊗_{U(𝔟)} U(𝔟̃)

de manière naturelle (et en appliquant la règle des signes). On pose δ = d + d^{∗}. Les espaces C_{n}(𝔞×𝔟, E) et ⨁_{p+q=n} ⋀^{p}(𝔞)⊗E ⊗⋀^{q}(𝔟) sont isomorphes et δ devient la différentielle définissant l’homologie H_{n}(𝔞 × 𝔟, E).

Par passage au quotient, d, d^{⋆} et δ induisent des endomorphismes de ⨁_{p,q} C_{p,q}. Les espaces ⨁_{p+q=n} C_{p,q} et C_{n}(𝔞 × 𝔟, 𝔪 × 𝔫; E) sont isomorphes et δ devient la différentielle définissant l’homologie relative H_{n}(𝔞 × 𝔟, 𝔪 × 𝔫; E).

Considérons le complexe double :

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · ·
↓ ↓ ↓ ↓
C_{0,n} ← C_{1,n} ← ⋯ ← C_{n−1,n} ← C_{n,n} ←
↓ ↓ ↓ ↓
· · · · · · · · · · · · · · · · · · · · · · · · · · · · · ·
↓ ↓ ↓ ↓
C_{0,1} ← C_{1,1} ← ⋯ ← C_{n−1,1} ← C_{n,1} ← ⋯
↓ ↓ ↓ ↓
C_{0,0} ← C_{1,0} ← ⋯ ← C_{n−1,0} ← C_{n,0} ← C_{n+1,0} ⋯

Dans ce diagramme les flèches verticales sont les d et les flèches horizontales sont les d^{⋆}. Il résulte des hypothèses de la proposition et des définitions de d et de d^{⋆} que :

1. Le diagramme commute (au sens gradué).

2. L’application naturelle C_{n,0} ⟶ C_{n}(𝔞, 𝔫; E/E𝔟) est surjective.

3. Si m ≥ 0, alors le noyau de d dans C_{n,m} est égal à d(C_{n+1,m}).

L’application C_{n,0} ⟶ C_{n}(𝔞, 𝔫; E/E𝔟) induit une application

H_{n} (𝔞 × 𝔟, 𝔪 × 𝔫; E) ⟶ H_{n} (𝔟, 𝔫; E/E𝔟) .

On démontre de manière standard que cette application est bijective.

On va maintenant étudier l’homologie de certaines superalgèbres de Lie. Si 𝔞 est une superalgèbre de Lie et V est un 𝔞-module, les espaces (H_{i}(𝔞, V))_{i∈ℕ} peuvent être calculés de la façon suivante (cf. [7, ch. II] ou [15, ch. V–VI]) : on considère une résolution projective du module trivial ℂ :

⋯ ⟶ P_{n+1} ⟶ P_{n} ⟶ ⋯ ⟶ P_{1} ⟶ P_{0} ⟶ ℂ ⟶ {0}.

Alors H_{n}(𝔞, V) est isomorphe au n-ième groupe d’homologie de la suite :

⋯ ⟶ P_{1} ⊗_{U(𝔞)} V ⟶ P_{0} ⊗_{U(𝔞)} V ⟶ {0}.

On va appliquer cette méthode de calcul dans la démonstration du prochain lemme.

Notons 𝔫 la superalgèbre de Lie de dimension 1 + ϵ engendrée par un élément e tel que 𝔫_{0} = ℂ[e, e] et que 𝔫_{1} = ℂe. On note x = [e, e]/2. Si M est un 𝔫-module, soit M^{e} = {m ∈ M : em = 0}. Remarquons que M^{e} = M^{𝔫}, car e engendre 𝔫. Si N est un 𝔫_{0}-module alors on définit N^{x} de façon analogue.

Lemme 3.4. Soit M un 𝔫-module. Alors :

1. H_{0}(𝔫, M) ≃ M/eM;

2. H_{1}(𝔫, M) ≃ M^{e};

3. H_{i}(𝔫, M) = {0} quand i > 1;

et si N est un 𝔫_{0}-module

1. H_{0}(𝔫_{0}, N) ≃ N/xN;

2. H_{1}(𝔫_{0}, N) ≃ N^{x};

3. H_{i}(𝔫_{0}, N) = {0} quand i > 1.

Démonstration. Remarquons que U(𝔫) est isomorphe (comme algèbre associative) à ℂ[e], car U(𝔫) est le quotient de l’algèbre tensorielle de ℂx ⊕ ℂe par l’idéal engendré par e^{2} − x; il est alors évident que l’application ψ de ℂ[e] dans U(𝔫) telle que ψ(e^{n}) = e^{n} pour tout n ∈ ℕ est un isomorphisme. On dispose alors de la résolution projective du module trivial ℂ donnée par :

⋯ ⟶ {0} ⟶ ℂ[e] ⟶^{ξ} ℂ[e] ⟶^{ϵ} ℂ ⟶ {0}

où la fonction ξ : ℂ[e] ⟶ ℂ[e] est donnée par ξ(P) = eP et ϵ est la projection de ℂ[e] dans ℂ telle que, pour chaque polynôme P, ϵ(P) est son terme constant. On sait alors que les espaces H_{i}(𝔫, M) sont donnés par l’homologie du complexe

{0} ⟶ ℂ[e] ⊗_{U(𝔫)} M ⟶ ℂ[e] ⊗_{U(𝔫)} M ⟶ {0}.

On voit facilement que ce complexe est isomorphe au complexe

{0} ⟶ M ⟶^{ξ^{∗}} M ⟶ {0}

où la fonction ξ^{∗} de M dans M est donnée par ξ^{∗}(m) = em et donc ξ^{∗}(M) = eM. On en déduit que 1. H_{0}(𝔫, M) ≃ M/eM;

2. H_{1}(𝔫, M) ≃ M^{e};

3. Si i > 1, alors H_{i}(𝔫, M) = {0}.

Les résultats concernant les 𝔫_{0}-modules sont bien connus et peuvent être démontrés de la même façon.

On va travailler maintenant avec la superalgèbre de Lie 𝔬𝔰𝔭(1, 2), qui est isomorphe à la sous-algèbre de Lie de 𝔤𝔩(1, 2) dont les éléments sont les matrices de la forme

( \begin{matrix}0 & a & b \\ −b & c_{1} & c_{2} \\ a & c_{3} & −c_{1} \end{matrix} ) .

On va identifier 𝔬𝔰𝔭(1, 2) à cette superalgèbre de Lie. On note :

y = ( \begin{matrix}0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 1 & 0 \end{matrix} ) , h = ( \begin{matrix}0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & −1 \end{matrix} ) , x = ( \begin{matrix}0 & 0 & 0 \\ 0 & 0 & −1 \\ 0 & 0 & 0 \end{matrix} ) ,

f = ( \begin{matrix}0 & 1 & 0 \\ 0 & 0 & 0 \\ 1 & 0 & 0 \end{matrix} ) , e = ( \begin{matrix}0 & 0 & −1 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{matrix} ) .

On vérifie facilement que

1. 𝔬𝔰𝔭(1, 2)_{0} = ℂx ⊕ ℂh ⊕ ℂy;

2. 𝔬𝔰𝔭(1, 2)_{1} = ℂe ⊕ ℂf;

3. [h, e] = e, [h, f] = −f, [e, e] = 2x, [f, f] = 2y, [e, f] = h, [x, y] = −h, [h, x] = 2x, [h, y] = −2y, [e, y] = −f, [e, x] = 0, [f, x] = e et [f, y] = 0.

De plus, la sous-algèbre de 𝔬𝔰𝔭(1, 2) engendrée par x et par e est isomorphe à 𝔫; en fait, le choix des symboles x et e est compatible avec celui qui a été fait pour 𝔫 avant l’énoncé du lemme 3.4. Remarquons que 𝔰𝔩(2) ≃ 𝔬𝔰𝔭(1, 2)_{0}; on va identifier 𝔰𝔩(2) à 𝔬𝔰𝔭(1, 2)_{0} par cet isomorphisme.

Soit 𝔥 = ℂh. Si V (respectivement W) est un 𝔬𝔰𝔭(1, 2)-module (resp. 𝔰𝔩(2)-module), alors V est aussi un 𝔫-module (resp. 𝔫_{0}-module); de plus, puisque 𝔫 (resp. 𝔫_{0}) est un idéal de 𝔫⊕𝔥 (resp. 𝔫_{0} ⊕𝔥), la proposition 3.1 dit que 𝔥 opère dans les espaces H_{i}(𝔫, V) (resp. H_{i}(𝔫_{0}, V)). Le lemme 3.4 a alors le corollaire suivant :

Lemme 3.5. Soit V (resp. W) un 𝔬𝔰𝔭(1, 2)-module (resp. 𝔰𝔩(2)-module). Alors :

1. H_{1}(𝔫, V) ≃ V^{e} ⊗ ℂe;

2. H_{0}(𝔫, V) ≃ V/eV ;

3. H_{1}(𝔫_{0}, W) ≃ W^{x} ⊗ ℂx;

4. H_{0}(𝔫_{0}, W) ≃ W/xW.

Ces isomorphismes sont des isomorphismes de 𝔥-modules.

Démonstration. L’application ξ^{∗} : V ⊗ ℂe ⟶ V définie par ξ^{∗}(v ⊗ e) = ev est un morphisme de 𝔥-modules. On en déduit (en reprenant la démonstration du lemme 3.4) que, comme 𝔥-modules, H_{1}(𝔫, V) ≃ ker(ξ^{∗}) = V^{e} ⊗ ℂe. Il est clair que H_{0}(𝔫, V) ≃ V/eV .

La démonstration dans le cas des 𝔰𝔩(2)-modules peut être faite de la même façon.

Soit V un 𝔬𝔰𝔭(1, 2)-module localement fini, i. e. tel que si v ∈ V , alors le sous-module engendré par v est de dimension finie. On sait alors que V est somme directe de ses sous-modules irréductibles de dimension finie car, d’après [8], tout 𝔬𝔰𝔭(1, 2)-module de dimension finie est somme directe de sous-modules irréductibles. Le lemme suivant va donner des résultats plus précis concernant la structure de 𝔥-module de H_{0}(𝔫, V) et de H_{1}(𝔫, V) dans cette situation.

Lemme 3.6. Soit V (resp. W) un 𝔬𝔰𝔭(1, 2)-module (resp. 𝔰𝔩(2)-module) localement fini. Alors, comme 𝔥-modules :

1. H_{0}(𝔫, V) ≃ V^{f}.

2. H_{0}(𝔫_{0}, W) ≃ W^{y}.

Pour faire la démonstration, on aura besoin du résultat suivant (cf. [8, §6]): si n ∈ ℕ et M est un 𝔬𝔰𝔭(1, 2)-module de dimension 2n + 1, alors il existe un élément m ∈ M tel que

1. l’ensemble {m, em, e^{2}m, …, e^{2n}m} est une base de M;

2. M^{f} = ℂm;

3. m ∉ eM;

4. hm = −nm.

Démonstration. Pour démontrer la première assertion du lemme, il faut, d’après le lemme 3.4, que l’on démontre que V^{f} ≃ V/eV . Puisque V est la somme directe de ses sous-modules irréductibles de dimension finie, on voit clairement qu’il suffit que l’on montre que si M est un 𝔬𝔰𝔭(1, 2)-module irréductible, alors M^{f} ≃ M/eM. Cette assertion est vraie, car M = M^{f} ⊕ eM.

La démonstration dans le cas des 𝔰𝔩(2)-modules peut être faite de la même façon.

On déduit aussi à partir des propriétés des 𝔬𝔰𝔭(1, 2)-modules irréductibles de dimension finie que le résultat suivant est vrai :

Lemme 3.7. Soit V (respectivement W) un 𝔬𝔰𝔭(1, 2)-module (resp. 𝔰𝔩(2)- module) localement fini et soit λ ∈ 𝔥^{∗}.

1. Si λ(h) ∉ −ℕ, alors (V^{f})_{λ} = {0};

2. Si λ(h) ∉ −ℕ, alors (W^{y})_{λ} = {0}; 3. Si λ(h) ∉ ℕ, alors (V^{e})_{λ} = {0};

4. Si λ(h) ∉ ℕ, alors (W^{x})_{λ} = {0}.

Rappelons que 𝔤 est une superalgèbre de Lie qui vérifie les conditions équivalentes du théorème 1.4. Soit α ∈ Δ.

Proposition 3.8. Soit α ∈ Δ une racine non isotrope. Si α est paire (respectivement impaire), la sous-algèbre 𝔤^{α} de 𝔤 (cf. définition 1.10) est isomorphe à la somme directe de 𝔰𝔩(2) (resp. 𝔬𝔰𝔭(1, 2)) avec ker α.

Démonstration. On va faire la démonstration dans le cas où α est impaire, l’autre cas étant analogue et bien connu.

Soient X_{α} ∈ 𝔤_{α} \ {0} et Y_{α} ∈ 𝔤_{−α} tels que [X_{α}, Y_{α}] = h_{α} (cf. définition 1.9). On note X_{2α} = [X_{α}, X_{α}]/2 et Y_{2α} = [Y_{α}, Y_{α}]/2. L’application linéaire η : 𝔬𝔰𝔭(1, 2) ⟶ 𝔤(α) telle que η(e) = X_{α}, η(f) = Y_{α}, η(h) = h_{α}, η(x) = X_{2α} et η(y) = Y_{2α} est un homomorphisme injectif. Comme α(h_{α}) est non nul, on a 𝔤(α) ≃ 𝔬𝔰𝔭(1, 2) ⊕ ker α.

Soient 𝔟^{0} une sous-algèbre de Borel de 𝔤, 𝔫^{0} = ⨁_{α∈Δ^{+}(𝔟^{0})} 𝔤_{α}, λ ∈ 𝔥^{∗}, V un 𝔤-module localement fini et i un entier. L’algèbre 𝔥 opère dans H_{i}(𝔫^{0}, V) et on note comme d’habitude H_{i}(𝔫^{0}, V)_{λ} le sous-espace de poids λ. Remarquons que si α est une racine non isotrope, alors l’action de h_{α} dans H_{i}(𝔫^{0}, V) est semisimple avec des valeurs propres entières. En particulier, H_{i}(𝔫^{0}, V)_{λ} est nul si λ n’appartient pas au réseau des poids Q.

Notons que si V est 𝔥-semi-simple (ce qui est le cas dans les applications ultérieures), il en est de même de H_{i}(𝔫^{0}, V), et donc H_{i}(𝔫^{0}, V) est somme directe des H_{i}(𝔫^{0}, V)_{λ}, où λ parcourt le réseau des poids.

Proposition 3.9. Soient λ ∈ 𝔥^{∗}, 𝔟^{0} une sous-algèbre de Borel de 𝔤, 𝔫^{0} = ⨁_{α∈Δ^{+}(𝔟^{0})} 𝔤_{α}, α ∈ Δ^{+}(𝔟^{0}) une racine simple non isotrope et V un 𝔤-module localement fini. Soit 𝔟^{1} la sous-algèbre de Borel de 𝔤 telle que

Δ^{+}(𝔟^{1}) = \{ \begin{matrix}(Δ^{+}(𝔟^{0}) \ \{α\}) ⋃\{−α\} & si α ∈ Δ_{0} \\ (Δ^{+}(𝔟^{0}) \ \{α, 2α\}) ⋃\{−α, −2α\} & si α ∈ Δ_{1} \end{matrix}

et soit 𝔫^{1} = ⨁_{α∈Δ^{+}(𝔟^{1})} 𝔤_{α}. Si λ(h_{α}) ≥ 0, alors :

∀_{i∈ℕ} H_{i}(𝔫^{0}, V)_{λ+ρ_{𝔟^{0}}} ≃ H_{i−1}(𝔫^{1}, V)_{λ+ρ_{𝔟^{1}}}.

Proof. Notons 𝔫(α) la sous-algèbre 𝔫_{Δ^{+}(𝔟^{0})}(α) de 𝔤 (cf. définition 1.14). D’après la proposition 1.15, on sait que

[𝔫^{α} ⊕ ℂh_{α} ⊕ 𝔫^{−α}, 𝔫(α)] ⊂ 𝔫(α).  (4)

On a 𝔫^{0} = 𝔫^{α} ⊕ 𝔫(α), 𝔫^{1} = 𝔫^{−α} ⊕ 𝔫(α) et 𝔫^{0} ⋂ 𝔫^{1} = 𝔫(α). On déduit de la formule (4) et des propositions 1.15, 3.1 et 3.8 que si α est paire (respectivement impaire), alors H_{i}(𝔫(α), V) admet une structure de 𝔰𝔩(2)-module (resp. 𝔬𝔰𝔭(1, 2)-module) localement fini.

On fixe un i ∈ ℕ. Des résultats standards concernant la suite spectrale de Hochschild-Serre (cf. [6, §I.5 et §I.6.5]) et le fait que, d’après le lemme 3.4, H_{j}(𝔫, M) = {0} si j > 1 nous permettent de déduire que l’on a :

H_{i}(𝔫^{0}, V) ≃ H_{0}(𝔫^{α}, H_{i}(𝔫(α), V)) ⊕ H_{1}(𝔫^{α}, (H_{i−1}(𝔫(α), V)),  (5)

l’isomorphisme étant un isomorphisme de 𝔥-modules. Soient X_{α} ∈ 𝔤_{α} \ {0} et X_{−α} ∈ 𝔤_{−α} \ {0}. Alors les lemmes 3.5 et 3.6 et la formule (5) nous permettent de déduire que l’on a :

H_{i}(𝔫^{0}, V) ≃ H_{i}(𝔫(α), V)^{X_{−α}} ⊕ (H_{i−1}(𝔫(α), V)^{X_{α}} ⊗ ℂX_{α}) .  (6)

Posons μ = λ + ρ_{𝔟^{0}} . Remarquons que l’on a ρ_{𝔟^{0}} − ρ_{𝔟^{1}} = α; on a donc μ − α = λ + ρ_{𝔟^{1}} . D’autre part, on a

ρ_{𝔟^{0}}(h_{α}) = \{ \begin{matrix}1 si α est paire \\ \frac{1}{2} & si α est impaire \end{matrix}

et donc μ(h_{α}) > 0.

On a, d’après la formule (6), appliquée à 𝔫^{0} et 𝔫^{1},

H_{i}(𝔫^{0}, V)_{μ} ≃ (H_{i}(𝔫(α), V)^{X_{−α}})_{μ} ⊕ (H_{i−1}(𝔫(α), V)^{X_{α}})_{μ−α} ,  (7)
H_{i−1}(𝔫^{1}, V)_{μ−α} ≃ (H_{i−1}(𝔫(α), V)^{X_{α}})_{μ−α} ⊕ (H_{i−2}(𝔫(α), V)^{X_{−α}})_{μ} . (8)

Puisque μ(h_{α}) > 0, le lemme 3.7 (appliqué avec X_{−α} = f ou X_{−α} = y) et les égalités (7) et (8) nous permettent de déduire que

H_{i}(𝔫^{0}, V)_{λ+ρ_{𝔟^{0}}} ≃ H_{i}(𝔫^{0}, V)_{μ} ≃ (H_{i−1}(𝔫(α), V)^{X_{α}})_{μ−α} ≃ H_{i−1}(𝔫^{1}, V)_{μ−α}
≃ H_{i−1}(𝔫^{1}, V)_{λ+ρ_{𝔟^{1}}}.

Signalons le cas particulier suivant :

Corollaire 3.10. Soient 𝔟^{0}, α et V comme dans la proposition 3.9 et soit λ ∈ 𝔥^{∗}. Si λ(h_{α}) = 0, alors :

∀_{i∈ℕ} H_{i}(𝔫^{0}, V)_{λ+ρ_{𝔟^{0}}} = 0.

Démonstration. Cela résulte de la formule (7) : sous les hypothèses considérées, les deux facteurs du membre de droite de la formule (7) sont nuls. Remarquons que si α est impaire, on a (λ + ρ_{𝔟^{0}})(h_{α}) = \frac{1}{2} , de sorte que λ + ρ_{𝔟^{0}} n’est pas un poids. Donc H_{i}(𝔫^{0}, V)_{λ+ρ_{𝔟^{0}}} est nul pour des raisons encore plus fortes!

4. Foncteurs de Zuckerman

Rappelons que 𝔤 est une superalgèbre de Lie qui vérifie les conditions équivalentes du théorème 1.4. Soit 𝔤_{0}^{∧} l’ensemble des classes d’équivalence de représentations irréductibles de dimension finie de 𝔤_{0}. Pour chaque γ ∈ 𝔤_{0}^{∧}, on fixe une représentation r_{γ} dans la classe γ. Soient E_{γ} l’espace vectoriel dans lequel r_{γ} opère et I_{γ} le noyau de r_{γ}. L’application r_{γ} induit une bijection U(𝔤_{0})/I_{γ} ˜ ⟶End(E_{γ}).

Soit G_{0} un groupe de Lie complexe, connexe et simplement connexe dont l’algèbre de Lie soit isomorphe à 𝔤_{0} et soit F (G_{0}) l’algèbre des fonctions continues de G_{0} dans ℂ. On note R(G_{0}) le sous-espace de F (G_{0}) engendré par les coefficients des représentations semi-simples de dimension finie de G_{0}. Remarquons que R(G_{0}) est engendré par les coefficients des représentations irréductibles de dimension finie de G_{0}. Puisque le produit tensoriel de deux représentations semi-simples de G_{0} est semi-simple, R(G_{0}) est une sous-algèbre de F (G_{0}).

Si E est un G_{0}-module semi-simple, α ∈ E^{∗}, v ∈ E et g ∈ G_{0}, on note ϕ_{α,v}(g) = α(gv). Si γ ∈ 𝔤_{0}^{∧}, l’application

\begin{matrix}E_{γ}^{∗} ⊗ E_{γ} & ⟶ & R(G_{0}) \\ α ⊗ v & ↦ & ϕ_{α,v} \end{matrix}

est injective; on note R(G_{0})_{γ^{∗}} son image. Ces applications induisent un isomorphisme

⨁_{γ∈𝔤_{0}^{∧}} (E_{γ}^{∗} ⊗ E_{γ}) ≃ R(G_{0}).  (9)

Soit l l’action régulière gauche de G_{0} dans R(G_{0}) définie par

(l(k)ϕ)(m) = ϕ(k^{−1}m) (k, m ∈ G_{0}; ϕ ∈ R(G_{0})).

De façon analogue, on considère l’action régulière droite r de G_{0} dans R(G_{0}) définie par

(r(k)ϕ)(m) = ϕ(mk) (k, m ∈ G_{0}; ϕ ∈ R(G_{0})).

Il est clair que, pour tout γ ∈ 𝔤_{0}^{∧}, R(G_{0})_{γ} est un sous-espace stable de R(G_{0}) par rapport aux deux actions. On en déduit que l et r induisent des représentations de 𝔤_{0} dans R(G_{0}), que l’on note aussi l et r. Pour chaque X ∈ 𝔤_{0}, les fonctions

l(X), r(X) : R(G_{0}) ⟶ R(G_{0})

sont des dérivations et l(X) et r(X) commutent.

Considérons R(G_{0}) comme un 𝔤_{0}-module par rapport à l’action régulière gauche. Si pour chaque γ ∈ 𝔤_{0}^{∧} on considère l’action de 𝔤_{0} dans E_{γ}^{∗} ⊗ E_{γ} induite par l’action naturelle dans E_{γ}^{∗} et par l’action triviale dans E_{γ}, on voit alors que (9) est un isomorphisme de 𝔤_{0}-modules. De façon analogue, si on considère R(G_{0}) comme un 𝔤_{0}-module par rapport à l’action régulière droite et si pour chaque γ ∈ 𝔤_{0}^{∧} on considère l’action de 𝔤_{0} dans E_{γ}^{∗} ⊗ E_{γ} induite par l’action triviale dans E_{γ}^{∗} et par l’action naturelle dans E_{γ}, alors (9) est aussi un isomorphisme de 𝔤_{0}-modules.

La multiplication dans G_{0} fait de R(G_{0}) une algèbre de Hopf. Soit f ∈ R(G_{0}). Alors il existe un unique élément de Δ(f) = ∑ a_{i} ⊗ b_{i} ∈ R(G_{0}) ⊗ R(G_{0}) tel que l’on ait f(hk) = ∑ a_{i}(h)b_{i}(k) pour tout h et k dans G_{0}.

On note M̂(G_{0}) le dual de R(G_{0}); c’est aussi une algèbre de Hopf par dualité. On note ∗ le produit dans M̂(G_{0}); c’est le produit de convolution. Si k ∈ G_{0}, on note δ_{k} ∈ M̂(G_{0}) l’évaluation en k. Remarquons que si k, h ∈ G_{0}, alors δ_{k} ∗ δ_{h} = δ_{kh} et que δ_{1} est l’unité de M̂(G_{0}). Si u ∈ U(𝔤_{0}), on note encore u l’élément de M̂(G_{0}) définit par la formule ⟨u, ϕ_{α,v}⟩ = ϕ_{α,uv}(1) = α(uv). Ceci permet de considérer U(𝔤_{0}) comme une sous-algèbre de M̂(G_{0}).

On note encore r et l les représentations régulières droite et gauche de G_{0} ou U(𝔤_{0}) dans M̂(G_{0}) obtenues par dualité. On a par exemple pour m ∈ M̂(G_{0}) et u ∈ U(𝔤_{0}), l(u)m = u ∗ m et r(u)m = m ∗ ǔ où u ↦ ǔ est l’antiautomorphisme principal de U(𝔤_{0}).

Par dualité, la multiplication dans R(G_{0}) fait de M̂(G_{0}) un R(G_{0})-mo-dule. Par exemple, pour f ∈ R(G_{0}) et k ∈ G_{0}, on a fδ_{k} = f(k)δ_{k}. La multiplication induit un morphisme de R(G_{0}) ⊗ M̂(G_{0}) dans M̂(G_{0}) respectant les représentations régulières l et r.

On note :

M(G_{0}) = {ψ ∈ M̂(G_{0}) : #{γ ∈ 𝔤_{0}^{∧} : ψ(R(G_{0})_{γ}) ≠ {0}} < ∞} .

C’est un idéal de M̂(G_{0}), stable par la multiplication par R(G_{0}).

On note μ l’élément de M̂(G_{0}) tel que, si γ ∈ 𝔤_{0}^{∧}, α ∈ E_{γ}^{∗} et v ∈ E_{γ},

μ(ϕ_{α,v}) = \{ \begin{matrix}α(v) & si γ est triviale \\ 0 & sinon. \end{matrix}

L’élément μ appartient à M(G_{0}) et c’est, à une constante près, l’unique élément invariant à gauche de M(G_{0}). L’application f ↦ fμ est un isomorphisme de R(G_{0}) sur M(G_{0}) respectant la structure de modules sur R(G_{0}) et les représentations régulières l et r.

Soit γ ∈ 𝔤_{0}^{∧}. Notons, pour tout 𝔤_{0}-module V , V_{γ} le sous-espace des vecteurs de type γ, et V/I_{γ}V le plus grand quotient de type γ. Lorsque V est somme directe de modules simples de dimension finie, l’application naturelle de V_{γ} dans V/I_{γ}V est un isomorphisme. Ceci est conforme à la notation employée plus haut pour R(G_{0})_{γ^{∗}} qui est le sous-espace des éléments de R(G_{0}) qui sont de type γ^{∗} pour la représentation régulière l, où γ^{∗} est la représentation contragrédiente de γ.

Notons encore M(G_{0})_{γ} le sous-espace des éléments de M(G_{0}) qui sont de type γ pour la représentation régulière l. L’application de restriction à R(G_{0})_{γ^{∗}} induit un homomorphisme surjectif d’algèbres de M̂(G_{0}) sur l’espace M(G_{0})_{γ}. Par exemple, si u ∈ U(𝔤_{0}), l’image u_{γ} de u vérifie ⟨u_{γ}, ϕ_{α,v}⟩ = ϕ_{α,uv} pour tout α ∈ E_{γ}^{∗} et tout v ∈ Eγ. L’application u ↦ u_{γ} induit par passage au quotient un isomorphisme d’algèbres et de U(𝔤_{0})-module à gauche et à droite de U(𝔤_{0})/I_{γ} sur M(G_{0})_{γ}. Nous notons (conformément aux notations ci-dessus) 1_{γ} l’élément unité de M(G_{0})_{γ}.

Par construction, l’algèbre M̂(G_{0}) est isomorphe au produit ∏_{γ} M(G_{0})_{γ}. L’espace M(G_{0})_{γ} est un idéal de M̂(G_{0}), et l’algèbre M(G_{0}) est isomorphe à la somme directe ⨁_{γ} M(G_{0})_{γ}. Notons que M(G_{0}) n’a pas d’élément unité.

L’application f ↦ fμ est un isomorphisme de R(G_{0})_{γ} sur M(G_{0})_{γ} pour les représentations régulières droite et gauche. En particulier, il existe un élément f_{γ} ∈ R(G_{0})_{γ} tel que 1_{γ} = f_{γ}μ.

Nous allons étendre ces définitions au “supergroupe G” d’algèbre de Lie 𝔤. La méthode suivie est analogue à celle qui est décrite en détail dans [16, ch. I] auquel nous renvoyons pour plus de précisions^{9}. On pose

M̂(G) = M̂(G_{0}) ⊗_{U(𝔤_{0})} U(𝔤) et M(G) = M(G_{0}) ⊗_{U(𝔤_{0})} U(𝔤).

On note m∗u l’image de m⊗u ∈ M̂(G_{0})⊗U(𝔤) dans M̂(G_{0})⊗_{U(𝔤_{0})} U(𝔤). Soient u ∈ U(𝔤) et n ∈ M̂(G_{0}). Choisissons des éléments u_{j} ∈ U(𝔤) et f_{j} ∈ R(G_{0}) tels que l’on ait Ad(k^{−1})(u) = ∑ f_{j}(k)u_{j} pour tout k ∈ G_{0}. On pose

u ∗ n = ∑_{j}(f_{j}n) ∗ u_{j}.  (10)

On démontre comme dans [16] qu’il existe une structure d’algèbre sur M̂(G) telle que l’on ait (m ∗ u) ∗ (n ∗ v) = m ∗ (u ∗ n) ∗ v pour tout m, n ∈ M̂(G_{0}) et tout u, v ∈ U(𝔤), où l’opération u ∗ n vient d’être définie, et les opérations m∗ et ∗v sont les opérations évidentes.

Puisque U(𝔤) est libre de rang fini comme module à gauche sur U(𝔤_{0}), l’application m ↦ m ∗ 1 est une injection de M̂(G_{0}) dans M̂(G), et M̂(G) est libre de rang fini comme module à gauche sur M̂(G_{0}). Il est aussi libre de rang fini comme module à droite. En effet, on démontre comme dans [16] que l’application (u, m) ↦ u ∗ m induit un isomorphisme U(𝔤) ⊗_{U(𝔤_{0})} M̂(G_{0}) ≃ M̂(G).

Le sous-espace M(G) est un idéal de M̂(G) qui contient M(G_{0}) comme sous-algèbre. Pour tout γ ∈ 𝔤_{0}^{∧}, on note encore 1_{γ} l’élément correspondant de M(G). L’application u ↦ u1_{γ} induit un isomorphisme de U(𝔤)/U(𝔤)I_{γ} sur le sous-U(𝔤)-module à gauche U(𝔤)1_{γ} de M(G). De même, l’application u ↦ 1_{γ}u induit un isomorphisme de U(𝔤)/I_{γ}U(𝔤) sur le sous-U(𝔤)-module à droite 1_{γ}U(𝔤) de M(G).

On a donc des isomorphismes M(G) ≃ ⨁_{γ∈𝔤_{0}^{∧}} U(𝔤)/U(𝔤)I_{γ} et M(G) ≃ ⨁_{γ∈𝔤_{0}^{∧}} U(𝔤)/I_{γ}U(𝔤). L’isomorphisme

⨁_{γ∈𝔤_{0}^{∧}} U(𝔤)/U(𝔤)I_{γ} ≃ ⨁_{γ∈𝔤_{0}^{∧}} U(𝔤)/I_{γ}U(𝔤)

qui en résulte peut être calculé grâce à la formule (10). Plus explicitement, soient u ∈ U(𝔤) et n ∈ M(G_{0}) = ⨁_{γ∈𝔤_{0}^{∧}} U(𝔤_{0})/I_{γ}. Nous utilisons les notations u_{j} et f_{j} de la formule (10). L’isomorphisme cherché envoie un ∈ ⨁_{γ∈𝔤_{0}^{∧}} U(𝔤)/U(𝔤)I_{γ} sur ∑_{j}(f_{j}n)u_{j} ∈ ⨁_{γ∈𝔤_{0}^{∧}} U(𝔤)/I_{γ}U(𝔤).

De manière duale on pose

R(G) = Hom_{𝔤_{0}}(U(𝔤), R(G_{0})).

Rendons explicites les structures de 𝔤_{0}-modules utilisées : un élément ψ de l’espace Hom(U(𝔤), R(G_{0})) appartient à R(G) s’il vérifie ψ(uX) = r(X)(ψ(u)) pour tout u ∈ U(𝔤) et X ∈ 𝔤_{0}. Les espaces R(G) et M̂(G) sont en dualité par la formule ⟨ψ, m ∗ u⟩ = ⟨ψ(u), m⟩. Par dualité R(G) est munie d’une structure d’algèbre de Hopf; en particulier, c’est une algèbre supercommutative. On considère R(G) comme l’algèbre des fonctions sur le “supergroupe G”.^{10} L’application ψ ↦ ψ(1) est un homomorphisme surjectif de R(G) sur R(G_{0}) que l’on considère comme l’application de restriction au “sous-supergroupe G_{0}”. Dans ces conditions, si ψ ∈ R(G), l’élément correspondant de Hom(U(𝔤), R(G_{0})) s’interprète comme l’application qui à u ∈ U(𝔤) associe la restriction de r(u)ψ à G_{0}.

9En fait ici la situation est plus simple que dans [16] car U(𝔤) est de type fini comme module sur U(𝔤_{0}).

On note HC la catégorie des 𝔤-modules qui sont 𝔤_{0}-finis et 𝔥-semi-simples (ce sont les modules d’Harish-Chandra). En d’autres termes, c’est la catégorie des 𝔤-modules dont la restriction à 𝔤_{0} est somme directe de modules simples de dimension finie. On notera que les éléments de HC de type fini sont exactement les 𝔤-modules de dimension finie 𝔥-semi-simples. En particulier, HC contient tous les 𝔤-modules simples de dimension finie. Pour les représentations régulières l et r, les modules R(G) et M(G) (qui sont isomorphes) sont dans HC.

On pose, pour chaque 𝔤-module V :

L̂_{0}(V) = M̂(G) ⊗_{U(𝔤)} V et L_{0}(V) = M(G) ⊗_{U(𝔤)} V.

Les foncteurs L_{0} et L̂_{0} vont de la catégorie des 𝔤-modules dans celle des M̂(G)- modules et sont exacts à droite. Comme M(G) est dans la catégorie HC, on peut aussi considérer que le foncteur L_{0} va de la catégorie des 𝔤-modules dans la catégorie HC.

Il résulte des définitions de M̂(G) et M(G) que l’on a

L̂_{0}(V) ≃ M̂(G_{0}) ⊗_{U(𝔤_{0})} V  (11)

et

L_{0}(V) ≃ M(G_{0}) ⊗_{U(𝔤_{0})} V.  (12)

Ces formules permettent l’étude de la structure de M̂(G_{0})-module de ces modules. Soit γ ∈ 𝔤_{0}^{∧}; comme l’algèbre M(G_{0})_{γ} ≃ U(𝔤_{0})/U(𝔤_{0})I_{γ} est facteur direct dans M̂(G_{0}), le sous-U(𝔤_{0})-module M(G_{0})_{γ} ⊗_{U(𝔤_{0})} V est facteur direct dans L̂_{0}(V) et L_{0}(V). On obtient le lemme suivant :

Lemme 4.1. Soit V un 𝔤-module.

1. Soit γ ∈ 𝔤_{0}^{∧}. L’application v ↦ 1_{γ} ∗ v de V dans L_{0}(V) induit des isomorphismes V/I_{γ}V ≃ L_{0}(V)_{γ} ≃ L̂_{0}(V)_{γ}.

2. On a L_{0}(V) ≃ ⨁_{γ∈𝔤_{0}^{∧}} V/I_{γ}V .

3. Il y a une injection naturelle de L̂_{0}(V) dans ∏_{γ∈𝔤_{0}^{∧}} V/I_{γ}V , et l’application L_{0}(V) → L̂_{0}(V) s’identifie à l’injection ⨁_{γ∈𝔤_{0}^{∧}} V/I_{γ}V → ∏_{γ∈𝔤_{0}^{∧}} V/I_{γ}V .

On en déduit le corollaire suivant :

10Cf. [17] pour la définition.

Corollaire 4.2. Si V appartient à HC, les U(𝔤)-modules V , L_{0}(V) et L̂_{0}(V) sont isomorphes.

Remarquons que l’isomorphisme V → L̂_{0}(V) du corollaire 4.2 est l’application naturelle de V dans L̂_{0}(V) déduite de l’application v ↦ 1 ⊗ v de V dans M̂(G) ⊗ V . Comme M(G) n’a pas d’élément unité, l’isomorphisme V → L̂_{0}(V) est un peu moins simple à décrire. Il est obtenu de la manière suivante : si γ ∈ 𝔤_{0}^{∧} et v ∈ V_{γ}, alors l’image de v est 1_{γ} ∗ v.

Proposition 4.3. On suppose que L_{0}(V)_{γ} est nul, sauf pour un nombre fini de γ ∈ 𝔤_{0}^{∧}.^{11} Alors L_{0}(V) est le plus grand quotient de V qui soit dans la catégorie HC. En d’autres termes, il existe un morphisme surjectif τ, unique, de V dans L_{0}(V) tel que tout morphisme de V dans un module W de la catégorie HC se factorise à travers τ.

Démonstration. L’hypothèse implique que l’application naturelle de V dans L̂_{0}(V) est surjective, et que l’injection naturelle de L_{0}(V) dans L̂_{0}(V) est un isomorphisme. On obtient donc une surjection τ de V dans L_{0}(V). Notons que pour chaque γ ∈ 𝔤_{0}^{∧} la projection de τ(v) sur L_{0}(V)_{γ} se déduit de l’application qui à v ∈ V associe 1_{γ} ∗ v. Donc on a τ(v) = ∑_{γ∈𝔤_{0}^{∧}} 1_{γ} ∗ v, et la somme est finie par hypothèse. L’application τ répond à la question.

Soit V un 𝔤-module. On pose V^{f} = ⨁_{γ∈𝔤_{0}^{∧}} V_{γ}. C’est un 𝔤-module, et c’est le plus grand sous-module de V dans la catégorie HC. On pose

Γ^{0}(V) = (R(G) ⊗ V)^{𝔤}

où les invariants sont ceux de la représentation r⊗θ, en notant θ la représentation dans V . Compte-tenu de la définition de M(G), Γ^{0}(V) s’identifie aux applications linéaires ψ de rang fini de M̂(G) dans V telles que l’on ait ψ(m∗u)v = ψ(m)(uv) pour tout m ∈ M̂(G), u ∈ U(𝔤) et v ∈ V .

L’application de restriction de M̂(G) à M̂(G_{0}) induit un isomorphisme

Γ^{0}(V) ≃ (R(G_{0}) ⊗ V)^{𝔤_{0}}

de sorte que l’on peut considérer Γ^{0}(V) au choix comme un espace de fonctions sur G_{0} à valeurs dans V , ou un espace de “fonctions sur G” à valeurs dans V . L’isomorphisme entre ces deux espaces est la restriction à G_{0}; plus explicitement, par restriction aux éléments de la forme δ_{k} avec k ∈ G_{0}, on voit que l’on peut considérér Γ^{0}(V) comme un espace de fonctions ψ sur G_{0} à valeurs dans V . Ecrivons l’action d’un élément X ∈ 𝔤 dans Γ^{0}(V) dans cette réalisation et soit ψ ∈ Γ^{0}(V). Pour tout k ∈ G_{0} on a (Xψ)(k) = ⟨Xψ, δ_{k}⟩ = ⟨ψ, −X∗δ_{k}⟩ = ⟨ψ, −δ_{k}∗ Ad(k^{−1})(X)⟩ d’après la formule (10), et donc (Xψ)(k) = Ad(k^{−1})(X) (ψ(k)) . De même, pour tout u ∈ U(𝔤), on a

(uψ)(k) = Ad(k^{−1})(u) (ψ(k)) .

11C’est le cas par exemple si L_{0}(V) est de dimension finie

En considérant la restriction à 1 ∈ G_{0}, on obtient un isomorphisme Γ^{0}(V) ≃ V^{f} et donc Γ^{0}(V) est isomorphe au plus grand sous-module de V qui est dans la catégorie HC.

Soit V un U(𝔤)-module. Nous noterons θ l’action de 𝔤 dans V . On pose

M(G_{0}, V) = M(G_{0}) ⊗ V et R(G_{0}, V) = R(G_{0}) ⊗ V.

On munit ces deux modules de la structure de 𝔤_{0}-module r ⊗ θ. Les formules (11) et (12) signifient que l’on a des isomorphismes H_{0}(𝔤_{0}, M(G_{0}, V)) ≃ L_{0}(V) et H^{0}(𝔤_{0}, R(G_{0}, V)) ≃ Γ^{0}(V). La représentation régulière l induit la structure de 𝔤_{0}-module de L_{0}(V) et Γ^{0}(V).

Montrons comment induire la structure de 𝔤-module. Soit u ∈ U(𝔤) et choisissons comme plus haut des éléments u_{j} ∈ U(𝔤) et f_{j} ∈ R(G_{0}) tels que l’on ait Ad(k^{−1})(u) = ∑ f_{j}(k)u_{j} pour tout k ∈ G_{0}. Soit m ⊗ v ∈ M(G_{0}, V). On pose

l̃(u)(m ⊗ v) = ∑_{j}(f_{j}m) ⊗ u_{j}v.

Par exemple, si k ∈ G_{0} et m = δ_{k}, on a l̃(u)(δ_{k} ⊗ v) = δ_{k} ⊗ Ad(k^{−1})(u)v. De manière duale on pose, pour ψ ∈ R(G_{0}, V)

(l̃(u)ψ)(k) = Ad(k^{−1})(u) (ψ(k)) .

On démontre (cf. [5] ou [16]) que l̃ est une représentation de 𝔤 dans M(G_{0}, V) (resp. R(G_{0}, V)) commutant à la représentation r ⊗ θ.

On remarquera que, pour X ∈ 𝔤_{0}, les endomorphismes l(X) et l̃(X) de M(G_{0}, V) (resp. R(G_{0}, V)) sont tous deux définis. Ils ne sont pas en général égaux, mais ils induisent la même action dans L_{0}(V) (resp. Γ^{0}(V)). Plus généralement, si X ∈ 𝔤, l’action induite par l̃(X) dans L_{0}(V) (resp. Γ^{0}(V)) redonne la structure de 𝔤-module définie plus haut.

Soit 𝔰_{0} une sous-algèbre réductive de 𝔤_{0} contenant 𝔥. On note HC(𝔰_{0}) la catégorie des 𝔤-modules qui sont 𝔰_{0}-finis et 𝔥-semi-simples. En d’autres termes, c’est la catégorie des 𝔤-modules dont la restriction à 𝔰_{0} est somme directe de modules simples de dimension finie. Notons S_{0} le groupe simplement connexe d’algèbre de Lie 𝔰_{0}. Les modules de la catégorie HC(𝔰_{0}) sont parfois appelés des (𝔤, S_{0})-modules. Nous considérons Γ^{0} comme un foncteur exact à gauche de HC(𝔰_{0}) dans HC, et L_{0} comme un foncteur exact à droite. Pour tout entier i, on note Γ_{𝔰_{0}}^{i}(·) et L_{i}^{𝔰_{0}}(·) les foncteurs dérivés (ils sont nuls par convention si i < 0). Pour simplifier les notations, on ommettra 𝔰_{0} de la notation lorsque cela ne crée pas de confusion.

Soit V un 𝔤-module; on note toujours θ l’action de 𝔤. Considérons, pour tout entier i, le module

H_{i} (𝔤_{0}, 𝔰_{0}; M(G_{0}, V)) .

L’homologie relative est calculée pour l’action r ⊗ θ, et l̃ induit une structure de 𝔤-module dans H_{i} (𝔤_{0}, 𝔰_{0}; M(G_{0}, V)).

Proposition 4.4. Soit V un module de la catégorie HC(𝔰_{0}). Les 𝔤-modules L_{i}(V) et H_{i} (𝔤_{0}, 𝔰_{0}; M(G_{0}, V)) sont isomorphes.

Démonstration. Remarquons que si W ∈ HC(𝔰_{0}), alors le foncteur · ⊗ W de HC(𝔰_{0}) dans HC(𝔰_{0}) est un foncteur exact; en plus, si V ∈ HC(𝔰_{0}) est un module projectif, alors V ⊗ W est aussi projectif (cf. [16, §II.3]). Soit

⋯ ⟶ P_{2} ⟶ P_{1} ⟶ P_{0} ⟶ V ⟶ {0}

une résolution projective du 𝔤-module V (dans la catégorie HC(𝔰_{0})). Alors

⋯ ⟶ M(G_{0}, P_{2}) ⟶ M(G_{0}, P_{1}) ⟶ M(G_{0}, P_{0}) ⟶ M(G_{0}, V) ⟶ {0}

est une résolution projective du 𝔤-module M(G_{0}, V). Puisque la restriction à HC(𝔰_{0}) du foncteur H_{i}(𝔤_{0}, 𝔰_{0}; ·) est le i-ème foncteur dérivé de la restriction à HC(𝔰_{0}) du foncteur · ⊗_{U(𝔤_{0})} ℂ (cf. [16, §II.6]), on voit que H_{i}(𝔤_{0}, 𝔰_{0}; M(G_{0}, V)) est isomorphe à l’i-ème groupe d’homologie du complexe

⋯ ⟶ L_{0}(P_{2}) ⟶ L_{0}(P_{1}) ⟶ L_{0}(P_{0})

et donc isomorphe à L_{i}(V).

De même, l̃ induit dans H^{i} (𝔤_{0}, 𝔰_{0}; R(G_{0}, V)) une structure de 𝔤-module et on a un isomorphisme fonctoriel H^{i} (𝔤_{0}, 𝔰_{0}; R(G_{0}, V)) ≃ Γ^{i}(V) pour tout module V de HC(𝔰_{0}).

Nous passons en revue quelques propriétés générales utiles des foncteurs L_{i}(·) et Γ^{i}(·). On note V un module de la catégorie HC(𝔰_{0}).

Proposition 4.5. Soit I l’annulateur de V dans U(𝔤). Alors I annule les modules L_{i}(V) et Γ^{i}(V).

Démonstration. Soit u ∈ I. Pour tout k ∈ G_{0}, on a Ad(k)(u) ∈ I, de sorte que l’on a l̃(u) = 0 dans M(G_{0}, V) et R(G_{0}, V).

Soit γ ∈ 𝔤_{0}^{∧}. On a L_{i}(V)_{γ} ≃ E_{γ} ⊗ H_{i} (𝔤_{0}, 𝔰_{0}; E_{γ}^{∗} ⊗ V ) et Γ^{i}(V)_{γ} ≃

E_{γ} ⊗ H^{i} (𝔤_{0}, 𝔰_{0}; E_{γ}^{∗} ⊗ V ). Si W est un module de la catégorie HC(𝔰_{0}) (resp. HC), on note W^{c} le sous-espace du dual formé des vecteurs 𝔰_{0}-finis (resp. 𝔤_{0}- finis). Ils sont automatiquement 𝔥-semi-simples et le module W^{c} est encore dans la catégorie HC(𝔰_{0}) (resp. HC). Il résulte des formules qui précèdent que le dual de L_{i}(V)_{γ} est Γ^{i}(V^{c})_{γ^{∗}}. On a donc (cf. [16, §III.1]) :

Proposition 4.6. Les modules Γ^{i}(V^{c}) et L_{i}(V)^{c} sont isomorphes. Signalons un cas particulièrement utile dans la suite.

Proposition 4.7. Si la dimension de L_{i}(V) est finie, alors le dual de L_{i}(V) est isomorphe à Γ^{i}(V^{c}).

On pose N = 2n = dim 𝔤_{0}/𝔰_{0}. Puisque 𝔰_{0} contient 𝔥, n est un entier. Soient V et W des modules de la catégorie HC(𝔰_{0}), et soit (., .) une forme les mettant en dualité. Une variante de la dualité de Poincaré (cf. [5], [16]) produit une forme (., .) mettant en dualité les modules Γ^{i}(V) et Γ^{N−i}(W). Elle dépend du choix d’un élément non nul κ ∈ ⋀^{N}(𝔤_{0}/𝔰_{0}). Fixons κ et soient ω ⊗ ψ ⊗ v représentant^{12} un élément de U ∈ Γ^{i}(V) et ω′ ⊗ ψ′ ⊗ w représentant un élément de V ∈ Γ^{N−i}(W), avec v ∈ V , w ∈ W, ψ ∈ R(G_{0}), ψ′ ∈ R(G_{0}), ω ∈ ⋀^{i}(𝔤_{0}/𝔰_{0})^{∗} et ω′ ∈ ⋀^{N−i}(𝔤_{0}/𝔰_{0})^{∗}. La dualité est donnée par la formule

(U, V) = ±⟨ω ∧ ω′, κ⟩⟨μ, ψψ′⟩(v, w),  (13)

où le signe est déterminé par la règle des signes. Appliquons ceci à W = V^{c}. La dualité de Poincaré pour les foncteurs de Zuckerman peut s’exprimer de la manière suivante (cf. [16, p. 185])

Proposition 4.8. La formule (13) induit un isomorphisme entre L_{i}(V) et Γ^{N−i}(V). En particulier, les modules L_{n}(V) et Γ^{n}(V) sont isomorphes.

Soit Ψ un sous-ensemble parabolique de Δ (cf. définition 1.12) et soient 𝔲^{±}, 𝔰 et 𝔭 les sous-algèbres de 𝔤 définies par la définition 2.1. Soit E un 𝔰-module de dimension finie 𝔥-semi-simple. Il est clair que le 𝔤-module M(E) = M(𝔭, E) est 𝔥-semi-simple et que, comme 𝔰_{0}-module, il est somme directe de ses sousmodules irréductibles de dimension finie. Il est donc dans la catégorie HC(𝔰_{0}) et les modules L_{i}(M(E)) et Γ^{i}(M(E)) sont définis. On va donner une autre construction des modules L_{i}(M(E)). Considérons l’espace M(G) ⊗ E et notons θ la représentation de 𝔭 dans E. On considère la représentation r ⊗ θ de 𝔭 dans M(G) ⊗ E. Elle commute à la représentation l de M(G) dans M(G) ⊗ E. Les espaces de cohomologie relative H_{i} (𝔭, 𝔰_{0}; M(G) ⊗ E) sont bien définis, et sont des modules dans la catégorie HC. Ils sont duaux des foncteurs considérés par I. Penkov dans [19] en termes de géométrie sur les supervariétés de drapeaux. La proposition suivante est une adaptation d’un résultat non publié de Michel Duflo et Michèle Vergne.

Proposition 4.9. Si E est un 𝔰-module de dimension finie 𝔥-semi-simple, alors le 𝔤-module

L_{i} (M(E))  (14)

est isomorphe au 𝔤-module

H_{i} (𝔭, 𝔰_{0}; M(G) ⊗ E) .  (15)

Démonstration. On considère l’espace M(G_{0})⊗U(𝔤)⊗E comme un bimodule pour 𝔤_{0}×𝔭. L’action de 𝔤_{0} est produit tensoriel de la représentation r dans M(G_{0}) et l dans U(𝔤). L’action de 𝔭 est produit tensoriel de la représentation r dans U(𝔤) et θ dans E. Enfin, on définit comme plus haut une action l̃ de 𝔤 dans M(G_{0}) ⊗ U(𝔤) ⊗ E qui commute aux actions précédentes. On peut donc définir les 𝔤-modules

H_{i} (𝔤_{0} × 𝔭, 𝔰_{0} × 𝔰_{0}; M(G_{0}) ⊗ U(𝔤) ⊗ E) .  (16)

Remarquons que l’on a

M(G_{0}) ⊗ U(𝔤) ⊗_{U(𝔭)} E = M(G_{0}) ⊗ M(E)

12Il faudrait en fait écrire des combinaisons linéaires.

et

M(G_{0}) ⊗_{U(𝔰_{0})} U(𝔤) ⊗ E = M(G) ⊗ E.

On va appliquer la proposition 3.3 pour démontrer que (14) et (16) sont isomorphes; on démontre de façon analogue que (15) et (16) sont isomorphes.

Fixons j > 0 et p ∈ ℕ. Il faut démontrer que

H_{j} (𝔭, 𝔰_{0}; ⋀^{p}(𝔤_{0}/𝔰_{0}) ⊗_{U(𝔰_{0})} (M(G_{0}) ⊗ U(𝔤) ⊗ E))) = {0}.

Ceci résulte de l’assertion suivante :

Si F est un 𝔰_{0}-module (à droite) somme directe de modules simples de dimension finie, alors le 𝔭-module (à droite) F ⊗_{U(𝔰_{0})} U(𝔭) est projectif dans la catégorie des 𝔭-modules dont la restriction à 𝔰_{0} est somme directe de modules simples de dimension finie. On a donc :

H_{j} (𝔭, 𝔰_{0}; F ⊗_{U(𝔰_{0})} U(𝔭)) = 0

pour tout j > 0. Comme le 𝔭-module ⋀^{p}(𝔤_{0}/𝔰_{0}) ⊗_{U(𝔰_{0})} (M(G_{0}) ⊗ U(𝔤) ⊗ E) admet une filtration par des modules de ce type, le résultat s’en déduit (cf. [7, §A.3] ou [16, §D.1]).

On a n = dim(𝔲_{0}^{+}). Rappelons que n est égal à \frac{1}{2} dim(𝔤_{0}/𝔰_{0}) = N/2 et à dim(𝔭_{0}/𝔰_{0}).

Proposition 4.10. Soit E un 𝔰-module 𝔥-semi-simple de dimension finie.

1. Les modules L_{i}(M(E)) sont de dimension finie.

2. Les modules L_{i}(M(E)) sont nuls si i > n.

3. Le module L_{0}(M(E)) est le plus grand quotient de dimension finie de M(E).

Démonstration. D’après le lemme 2.6, on sait que le 𝔤_{0}-module M(E) admet une filtration de longueur finie par des 𝔤_{0}-modules M(𝔭_{0}, V), où V est un 𝔭_{0}- module de dimension finie somme directe de 𝔰_{0}-modules simples, et où on a posé M(𝔭_{0}, V) = U(𝔤_{0}) ⊗_{U(𝔭_{0})} V . En filtrant V , on peut même supposer que V est un 𝔰_{0}-module simple. En considérant des suites exactes longues, on est ramené à montrer les assertions analogues analogues à 1 et 2 pour les 𝔤_{0}-modules L_{i}(M(𝔭_{0}, V)). Ce cas est bien connu (cf. [16, §IV.11]).

La dernière assertion résulte de la première et de la proposition 4.3.

Comme dans [16, §V.7], on peut dans certains cas obtenir un résultat complet d’annulation.

Proposition 4.11. Soit E un 𝔰-module simple de dimension finie. Si M(E) est irréductible, on a :

1. Le module L_{i}(M(E)) est réduit à {0} si i ≠ n.

2. Le module L_{n}(M(E)) admet une forme bilinéaire σ-invariante et non-dégé-nérée.

Démonstration. D’après la proposition 2.5, E et M(E) admettent une forme bilinéaire paire, symétrique, σ-invariante et non-dégénérée. La proposition 4.8 dit alors qu’il existe une application bilinéaire non-dégénérée

⟨·, ·⟩ : L_{i}(M(E)) × L_{2n−i}(M(E)) ⟶ ℂ.

D’après la proposition 4.10, L_{i}(V) = {0} pour i > n; on en déduit la première assertion de l’énoncé. La deuxième assertion résulte aussi de la proposition 4.8.

Remarquons que, sous les hypothèses de la proposition 4.11, il peut arriver que le module L_{n}(M(E)) soit nul. Lorsqu’il n’est pas nul, on peut se demander si le module L_{n}(M(E)) est simple. Nous verrons plus loin que c’est le cas lorsque 𝔭 est une algèbre de Borel. L’existence de la forme bilinéaire non dégénérée sur L_{n}(M(E)) est un élément essentiel de la preuve.

5. Principe d’Euler

Soient Ψ un sous-ensemble parabolique de Δ et Ω un sous-ensemble borélien de Ψ. Pour chaque j ∈ ℕ, on note L_{j}(M(E)) le 𝔤-module L_{j}^{𝔰_{0}}(M(𝔭, E)). Dans cette section on calcule la somme alternée

∑_{j≥0}(−1)^{j} sch (L_{j}(M(E))) .  (17)

Remarquons que cette expression a un sens car, d’après la proposition 4.10, la dimension de chaque L_{j}(M(E)) est finie.

Nous commençons par rappeler quelques formules concernant les problèmes analogues pour les algèbres de Lie semi-simples. On note W le groupe de Weyl de (𝔤_{0}, 𝔥) et on note W_{0} ⊂ W le groupe de Weyl de (𝔰_{0}, 𝔥).

Si V est un 𝔭_{0}-module, on considère le 𝔤_{0}-module

M(𝔭_{0}, V) = U(𝔤_{0}) ⊗_{U(𝔭_{0})} V.

Supposons V de dimension finie et 𝔥-semi-simple. Les 𝔤_{0}-modules L_{j}^{𝔰_{0}}(M(𝔭_{0}, V)) sont définis et de dimension finie; on les note L_{j}(M(𝔭_{0}, V)). Notons Δ^{+}(𝔰_{0}) l’ensemble des racines positives de 𝔰_{0} et ρ_{𝔰_{0}} la demi-somme correspondante. Posons

χ̃(V) = ( ∏_{α∈Δ^{+}(𝔰_{0})}(e^{α/2} − e^{−α/2})) ch(V).

Par exemple, si V est simple, il est encore simple comme 𝔰_{0}-module. Si l’on note λ son poids dominant par rapport à Δ^{+}(𝔰_{0}), on a

χ̃(V) = ∑_{w∈W_{0}} det(w)e^{w(λ+ρ_{𝔰_{0}})}  (18)

d’après la formule de Weyl.

Proposition 5.1. On suppose que les poids de V sont dans le réseau Q. On a

∑_{j}(−1)^{j}chL_{j}(M(𝔭_{0}, V)) = \frac{∑_{w∈W/W_{0}} det(w)w(χ̃(V)e^{ρ_{0}−ρ_{𝔰_{0}}})}{∏_{α∈Δ^{+}(𝔤_{0})}(e^{α/2} − e^{−α/2})}·

Remarquons que la formule ci-dessus a un sens car det(w)w(χ̃(V)e^{ρ_{0}−ρ_{𝔰_{0}}}) ne dépend que de la classe de w modulo W_{0}.

Démonstration. Le 𝔭_{0}-module V admet une filtration finie par des sous-𝔭_{0}- modules telle que le gradué associé soit formé de modules simples. D’après le principe d’Euler-Poincaré, on peut supposer que V est simple, ce que nous faisons. Soit λ ∈ Q son poids dominant par rapport à Δ^{+}(𝔰_{0}). Compte-tenu de la formule (18), la formule à démontrer devient

∑_{j}(−1)^{j}chL_{j}(M(𝔭_{0}, V)) = \frac{∑_{w∈W} det(w)e^{w(λ+ρ_{0})}}{∏_{α∈Δ^{+}(𝔤_{0})}(e^{α/2} − e^{−α/2})}.

Ce résultat est connu; cf. [24, §6.5.2].

Posons χ̃(E) = (∏_{α∈Δ^{+}(𝔰_{0})}(e^{α/2} − e^{−α/2})) sch(E). Considérons l’espace 𝔲_{1}^{+}; il est stable par 𝔰_{0}. Comme il est totalement impair, l’algèbre symétrique S(𝔲_{1}^{+}) est de dimension finie. Les racines de 𝔥 dans 𝔲_{1}^{+} sont les éléments de (Ψ\ − Ψ) ∩ Δ_{1}, et elles ont la multiplicité 1. On a donc

sch(S(𝔲_{1}^{+})) = ∏_{α∈(Ψ\−Ψ)∩Δ_{1}}(1 + ϵe^{α}).  (19)

Proposition 5.2. On suppose que les poids de E sont dans le réseau Q. On a

∑_{j}(−1)^{j} sch L_{j}(M(E)) = \frac{∑_{w∈W/W_{0}} det(w)w (χ̃(E) ∏_{α∈(Ψ\−Ψ)∩Δ_{1}}(1 + ϵe^{−α})e^{ρ_{0}−ρ_{𝔰_{0}}} )}{∏_{α∈Δ^{+}(𝔤_{0})}(e^{α/2} − e^{−α/2})}·

Démonstration. Le 𝔤_{0}-module M(E) admet une filtration finie par des sous𝔤_{0}-modules telle que le gradué associé soit isomorphe à M(𝔭_{0}, V), où V = S(𝔤/(𝔤_{0} + 𝔭)) ⊗ E. D’après le principe d’Euler-Poincaré, et compte-tenu de ce que la structure de 𝔤_{0}-supermodule des L_{j}(M(E)) ne dépend que de la structure de 𝔤_{0}-supermodule de M(E), on voit que l’on a ∑_{j}(−1)^{j} sch L_{j}(M(E)) = ∑_{j}(−1)^{j} sch L_{j}(M(𝔭_{0}, V)). La proposition 5.1 est encore valable avec des supercaractères de supermodules. La proposition 5.2 résulte donc de la formule :

sch (S(𝔤/(𝔤_{0} + 𝔭)) ⊗ E) = ( ∏_{α∈(Ψ\−Ψ)∩Δ_{1}}(1 + ϵe^{−α})) sch(E).

Comme 𝔤/(𝔤_{0} + 𝔭) est isomorphe comme 𝔰_{0}-module à 𝔲_{1}^{−}, celle-ci résulte de la formule (19).

Soit m = dim 𝔲_{0}. Lorsque le module M(E) est irréductible, on sait, d’après la proposition 4.11, que L_{j}(M(E)) est nul sauf pour j = m. On en déduit dans ce cas une formule pour le caractère du module L_{m}(M(E)).

Proposition 5.3. On suppose que les poids de E sont dans le réseau Q et que le module M(E) est irréductible. On a

sch L_{m}(M(E)) = (−1)^{m} \frac{∑_{w∈W/W_{0}} det(w)w (χ̃(E) ∏_{α∈(Ψ\−Ψ)∩Δ_{1}}(1 + ϵe^{−α})e^{ρ_{0}−ρ_{𝔰_{0}}} )}{∏_{α∈Δ^{+}(𝔤_{0})}(e^{α/2} − e^{−α/2})}·

Même lorsque E est de dimension 1, les conditions nécessaires et suffisantes d’irréductibilité de M(E) ne sont pas connues en général. Pour des conditions “génériques” sur E, on peut établir des conditions suffisantes d’irréductibilité de M(E) et de L_{m}(M(E)) (cf. [16, ch. VIII] ou [24, §6.6]). On trouve alors des résultats voisins de I. Penkov et V. Serganova (cf. [20, p. 871]).

Soit Q l’ensemble des poids de (𝔤_{0}, 𝔥). On note Q_{++} l’ensemble des poids Ω-dominants.^{13} Pour chaque σ ∈ Q_{++} on note E_{σ} le 𝔤_{0}-module simple de dimension finie de plus haut poids σ (par rapport à la relation d’ordre ≤_{Ω}, qui a été définie après la démonstration de la proposition 1.15.). Soient σ ∈ Q_{++} et V un 𝔤_{0}-supermodule. On note m(σ, V) = dim hom_{𝔤_{0}} (E_{σ}, V) la multiplicité de σ dans V , considérée comme un élément de ℕ + ϵℕ. Comme les 𝔤_{0}-modules 𝔥-semi-simples sont semi-simples, les m(σ, L_{j}(M(E))) déterminent complètement la structure de 𝔤_{0}-module de L_{j}(M(E)). Nous donnons une formule, pour tout σ ∈ Q_{++}, pour la somme alternée

N_{σ} = ∑_{j}(−1)^{j}m(σ, L_{j}(M(E))) ∈ ℤ + ϵℤ.  (20)

Les formules (17) et (20) sont reliées par la formule évidente

∑_{j}(−1)^{j} sch (L_{j}(M(E))) = ∑_{σ∈Q_{++}} N_{σ}ch E_{σ}.

Introduisons les notations suivantes : si γ ∈ 𝔰_{0}^{∧} et F_{γ} est dans la classe γ, on note comme plus haut m_{γ} = dim hom_{𝔰_{0}} (F_{γ}, E) ∈ ℕ + ϵℕ la multiplicité de F_{γ} dans E. On note Λ_{γ} ∈ Q le plus haut poids de F_{γ} par rapport à Δ^{+}(𝔰_{0}).

Définition 5.4. On note P_{ϵ} la fonction de 𝔥^{∗} à valeurs dans ℤ[ϵ]/(ϵ^{2} − 1) = ℤ + ϵℤ qui vérifie la propriété suivante :

∀_{λ∈𝔥^{∗}} ∏_{α∈(Ψ\−Ψ)∩Δ_{1}}(1 + ϵe^{α}) = ∑_{λ∈𝔥^{∗}} P_{ϵ}(λ)e^{λ}.

On déduit de cette définition et de formule (19) que l’on a :

Lemme 5.5. Si λ ∈ 𝔥^{∗}, alors P_{ϵ}(λ) = dim(S(𝔲_{1}^{+})_{λ}).

13L’ensemble Q_{++} dépend du choix de Ω.

Proposition 5.6. On suppose que les poids de E sont dans le réseau Q. On a :

N_{σ} = ∑_{γ∈𝔰_{0}^{∧}} ∑_{w∈W} m_{γ} det(w) P_{ϵ}(Λ_{γ} + ρ_{0} − w(σ + ρ_{0})).

Démonstration. Soit Λ un élément de Q qui soit le poids dominant d’une représentation irréductible de 𝔰_{0}. Compte tenu de la formule de Weyl (pour 𝔰_{0} et 𝔤_{0}) et de la proposition 5.2, il s’agit de démontrer que le coefficient de e^{λ+ρ_{0}} dans l’expression

I = ∑_{w∈W/W_{0}} det(w)w ( ∑_{s∈W_{0}} det(s)e^{s(Λ+ρ_{𝔰_{0}})} ( ∑_{λ∈Q} P_{ϵ}(−λ)e^{λ}) e^{ρ_{0}−ρ_{𝔰_{0}}} )

est égal à ∑_{w∈W} det(w) P_{ϵ}(Λ + ρ_{0} − w(σ + ρ_{0})). En tenant compte de l’invariance de certains termes par s, on trouve

I = ∑_{w∈W/W_{0}} det(w)w ( ∑_{s∈W_{0},λ∈Q} P_{ϵ}(−λ) det(s)e^{s(Λ+ρ_{0}+λ)})

et donc

I = ∑_{w∈W} ∑_{λ∈Q} P_{ϵ}(−λ) det(w)e^{w(Λ+ρ_{0}+λ)}.

Changeons w en w^{−1} et λ en −λ. On a I = ∑_{w∈W} ∑_{λ∈Q} P_{ϵ}(λ) det(w)e^{w^{−1}(Λ+ρ_{0}−λ)}. Comme σ + ρ_{0} est régulier, pour chaque w ∈ W il y a exactement un λ tel que w^{−1}(Λ + ρ_{0} − λ) = σ + ρ_{0}. Il est égal à Λ + ρ_{0} − w(σ + ρ_{0}). Il contribue pour det(w)P_{ϵ}(Λ + ρ_{0} − w(σ + ρ_{0})) au coefficient de e^{σ+ρ_{0}} dans I. Notre formule est donc établie.

Pour terminer cette section, nous explicitons la proposition 5.2 lorsque Ψ est un sous-ensemble borélien de Δ. On note 𝔟 l’algèbre de Borel correspondante. Dans ce cas, on a 𝔰 = 𝔥. Soit λ ∈ 𝔥^{∗}; on va appliquer les résultats précédents à la représentation E = λ − ρ_{𝔟} de 𝔥.

Si w ∈ W, soit μ(w) ∈ {1, ϵ} tel que

w ( ∏_{α∈Ψ_{1}} (e^{α/2} + ϵe^{−α/2})) = μ(w) ∏_{α∈Ψ_{1}} (e^{α/2} + ϵe^{−α/2}) .

La proposition 5.2 donne immédiatement la formule suivante :

Proposition 5.7. On suppose que λ − ρ_{𝔟} est un poids. On a

∑_{j}(−1)^{j} sch L_{j}(M(𝔟, λ − ρ_{𝔟})) = \frac{( ∑_{w∈W} det(w)μ(w)e^{w(λ)}) ∏_{α∈Ψ_{1}}(e^{α/2} + ϵe^{−α/2})}{∏_{α∈Ψ_{0}}(e^{α/2} − e^{−α/2})}·

6. Irréductibilité de certaines représentations

Dans cette section, nous écrirons, pour tout 𝔤-module 𝔥-semi-simple V , L_{i}(V) = L_{i}^{𝔥}(V). Soit 𝔟 une sous-algèbre de Borel de 𝔤. On verra que si un poids de la forme λ − ρ_{𝔟} satisfait certaines conditions, alors on peut trouver un i ∈ ℕ tel que L_{i}(M(𝔟, λ−ρ_{𝔟})) soit irréductible et tel que, si j ≠ i, alors L_{j}(M(𝔟, λ−ρ_{𝔟})) = {0}.

Lemme 6.1. Soient 𝔟 une sous-algèbre de Borel de 𝔤 et λ ∈ 𝔥^{∗}. On note

𝔫^{0} = ⨁_{α∈Δ^{+}(𝔟)} 𝔤_{α}.

On a

L_{i}(M(𝔟, λ − ρ_{𝔟})) ≃ H_{i} (𝔫^{0}, M(𝔤_{0}) ⊗_{U(𝔤_{0})} U(𝔤))_{−λ+ρ_{𝔟}} .

Démonstration. On a :

L_{i}(M(𝔟, λ − ρ_{𝔟})) ≃
≃ H_{i} (𝔟, 𝔥; M(𝔤_{0}) ⊗_{U(𝔤_{0})} U(𝔤) ⊗ ℂ_{λ−ρ_{𝔟}}) (d’après la proposition 4.9)
≃ H_{i} (𝔫^{0}, M(𝔤_{0}) ⊗_{U(𝔤_{0})} U(𝔤) ⊗ ℂ_{λ−ρ_{𝔟}})^{𝔥} (d’après la proposition 3.2)
≃ H_{i} (𝔫^{0}, M(𝔤_{0}) ⊗_{U(𝔤_{0})} U(𝔤))_{−λ+ρ_{𝔟}}

Chacun de ces isomorphismes est un morphisme de 𝔤-modules, car l’action donnant la structure de 𝔤-module et l’action pour laquelle on calcule l’homologie commutent.

Si α est une racine non isotrope, on note s_{α} la réflexion par rapport à α. Notons que si α est impaire, alors 2α est une racine paire et on a s_{α} = s_{2α}. Donc dans tous les cas s_{α} est un élément du groupe de Weyl W de 𝔤_{0} et son action dans 𝔥 est la restriction d’un automorphisme de 𝔤.

Si w ∈ W, alors w(𝔟) est la sous-algèbre de Borel de 𝔤 telle que Δ^{+}(w(𝔟)) = w(Δ^{+}(𝔟)). Remarquons que l’on a ρ_{w(𝔟)} = w(ρ_{𝔟}).

Proposition 6.2. Soient 𝔟 une sous-algèbre de Borel de 𝔤, λ ∈ 𝔥^{∗} et α ∈ Δ^{+}(𝔟) une racine simple non isotrope. Soit 𝔟^{1} la sous-algèbre de Borel de 𝔤 telle que

Δ^{+}(𝔟^{1}) = \{ \begin{matrix}(Δ^{+}(𝔟) \ \{α\}) ⋃\{−α\} & si α ∈ Δ_{0} \\ (Δ^{+}(𝔟) \ \{α, 2α\}) ⋃\{−α, −2α\} & si α ∈ Δ_{1}. \end{matrix}

Si λ(h_{α}) ≤ 0, on a, pour tout i ∈ ℤ :

L_{i}(M(𝔟, λ − ρ_{𝔟})) ≃ L_{i−1}(M(𝔟^{1}, λ − ρ_{𝔟^{1}})) ≃ L_{i−1}(M(s_{α}(𝔟), λ − ρ_{s_{α}(𝔟)})).

Démonstration. On note 𝔫^{0} = ⨁_{α∈Δ^{+}(𝔟)} 𝔤_{α}, et 𝔫^{1} = ⨁_{α∈Δ^{+}(𝔟^{1})} 𝔤_{α}. Pour l’action de 𝔤 par multiplication à droite, le module M(𝔤_{0}) ⊗_{U(𝔤_{0})} U(𝔤) est localement fini. D’après la proposition 3.9, on a

H_{i} (𝔫^{0}, M(𝔤_{0}) ⊗_{U(𝔤_{0})} U(𝔤))_{−λ+ρ_{𝔟}} ≃ H_{i−1} (𝔫^{1}, M(𝔤_{0}) ⊗_{U(𝔤_{0})} U(𝔤))_{−λ+ρ_{𝔟^{1}}}

On obtient le premier isomorphisme en appliquant le lemme 6.1.

Le deuxième isomorphisme résulte de ce que s_{α} permute les racines positives non proportionnelles à α. On a donc s_{α}(𝔟) = 𝔟^{1}.

Lemme 6.3. Soit λ ∈ 𝔥^{∗}. Il existe une sous-algèbre de Borel 𝔟 de 𝔤 telle que λ(h_{α}) ≥ 0 pour tout α ∈ Δ_{0}^{+}(𝔟).

Démonstration. Soit 𝔟_{0} une sous-algèbre de Borel de 𝔤_{0} telle que λ(h_{α}) ≥ 0 pour toute racine α de 𝔟_{0}. Il s’agit de montrer qu’il existe une sous-algèbre de Borel 𝔟 de 𝔤 dont 𝔟_{0} est la partie paire. Comme toutes les sous-algèbres de Borel de 𝔤_{0} sont conjuguées par un automorphisme de 𝔤, on voit que l’on peut même choisir 𝔟 conjuguée d’une sous-algèbre de Borel de 𝔤 fixée à l’avance.

Si w ∈ W, on note l(w) la longueur de w par rapport à l’ensemble des racines simples de Δ_{0}^{+}(𝔟). Rappelons la définition 1.8 : on dit que un élément λ ∈ 𝔥^{∗} est typique si λ(H_{α}) ≠ 0 pour tout α ∈ \overline{Δ_{1}}.

Proposition 6.4. Soient 𝔟 une sous-algèbre de Borel de 𝔤 et λ ∈ 𝔥^{∗} un élément typique. Supposons que λ(h_{α}) ≥ 0 pour tout α ∈ Δ_{0}^{+}(𝔟). On a, pour tout i ∈ ℤ et pour tout w ∈ W :

L_{i+l(w)}(M(w(𝔟), λ − ρ_{w(𝔟)})) ≃ L_{i}(M(𝔟, λ − ρ_{𝔟})).

Démonstration. La démonstration sera faite par récurrence sur l(w). Si l(w) = 1, alors w = s_{α} pour une racine simple α ∈ Δ_{0}^{+}(𝔟). D’après [19, ch. IV], il existe une sous-algèbre de Borel 𝔟^{#} de 𝔤 telle que 𝔟_{0} = (𝔟^{#})_{0} et que si α/2 est (respectivement n’est pas) une racine, alors α/2 (resp. α) est simple par rapport à Δ^{+}(𝔟^{#}). On a alors :

L_{i+1}(M(s_{α}(𝔟), λ − ρ_{s_{α}(𝔟)})) ≃
≃ L_{i+1}(M(s_{α}(𝔟^{#}), λ − ρ_{s_{α}(𝔟^{#})})) (d’après la proposition 2.7)
≃ L_{i}(M(𝔟^{#}, λ − ρ_{𝔟^{#}})) (d’après la proposition 6.2)
≃ L_{i}(M(𝔟, λ − ρ_{𝔟}))

d’après la proposition 2.7.

Dans le cas général, on écrit w = s_{α}w′, où α est une racine simple de Δ_{0}^{+}(𝔟) et l(w) = l(w′) + 1. Si on pose λ′ = w′(λ), il suffit que l’on démontre que λ′(h_{α}) ≥ 0, mais ceci est une conséquence du fait que (w′)^{−1}(α) ∈ Δ_{0}^{+}(𝔟) (cf. [1, ch. VI]).

Rappelons qu’on dit qu’un élément λ ∈ 𝔥^{∗} est régulier si λ(h_{α}) ≠ 0 pour toute racine non isotrope α.

Théorème 6.5. Soient λ un élément typique de 𝔥^{∗} et 𝔟 une sous-algèbre de Borel de 𝔤. Alors :

1. Si λ − ρ_{𝔟} n’est pas un poids, L_{i}(M(𝔟, λ − ρ_{𝔟})) = {0} pour tout i ∈ ℕ.

2. Si λ n’est pas régulier, L_{i}(M(𝔟, λ − ρ_{𝔟})) = {0} pour tout i ∈ ℕ.

Démonstration. La première assertion résulte immédiatement du lemme 6.1. Pour démontrer la seconde assertion, prenons une racine non isotrope α telle que λ(h_{α}) = 0. Si α ou \frac{1}{2}α est simple dans Δ^{+}(𝔟), l’annulation de L_{i}(M(𝔟, λ − ρ_{𝔟})) résulte du lemme 6.1 et du corollaire 3.10. On va se ramener à ce cas. On choisit une sous-algèbre de Borel 𝔟′ telle que α ou \frac{1}{2}α soit simple dans Δ^{+}(𝔟′). Conjuguant 𝔟 et 𝔟′ à des sous-algèbres de Borel pour lesquelles λ soit dominant, et appliquant deux fois la proposition 6.4, on voit qu’il existe un entier j tel que l’on ait L_{i}(M(𝔟, λ − ρ_{𝔟})) = L_{j}(M(𝔟′, λ − ρ_{𝔟′})).

Si 𝔟 est une sous-algèbre de Borel de 𝔤 et λ ∈ 𝔥^{∗} est régulier, on note

n(𝔟, λ) = # {α ∈ Δ_{0}^{+}(𝔟) : λ(h_{α}) < 0} .

Remarquons que n(𝔟, λ) est égal à la longueur de l’élément w du groupe de Weyl de (𝔤, 𝔥) tel que w(λ) soit dominant par rapport à Δ^{+}(𝔟) (cf. [1, §VI.1.6] et [2, §VIII.3.3]).

Théorème 6.6. Soit λ un élément typique et régulier de 𝔥^{∗}. On suppose que pour une (ou pour toute) sous-algèbre de Borel 𝔟 de 𝔤 l’élément λ − ρ_{𝔟} est un poids. Soit 𝔟 une sous-algèbre de Borel de 𝔤. Alors :

1. L_{i}(M(𝔟, λ − ρ_{𝔟})) = {0} pour chaque i ∈ ℕ différent de n(𝔟, λ).

2. Si 𝔟′ est une sous-algèbre de Borel de 𝔤, les 𝔤-modules L_{n(𝔟,λ)}(M(𝔟, λ−ρ_{𝔟})) et L_{n(𝔟′,λ)}(M(𝔟′, λ − ρ_{𝔟′})) sont alors isomorphes.

3. Le super caractère du module L_{n(𝔟,λ)}(M(𝔟, λ − ρ_{𝔟})) est donné par la formule

(−1)^{n(𝔟,λ)} \frac{( ∑_{w∈W} det(w)μ(w)e^{w(λ)}) ∏_{α∈Δ_{1}^{+}(𝔟)}(e^{α/2} + ϵe^{−α/2})}{∏_{α∈Δ_{0}^{+}(𝔟)}(e^{α/2} − e^{−α/2})}·

Démonstration. Il résulte de la proposition 6.4 que, pour démontrer la première assertion, il suffit de la démontrer lorsque 𝔟 vérifie n(𝔟, λ) = 0. Il faut alors démontrer que l’on a L_{i}(M(𝔟), λ − ρ_{𝔟})) = 0 si i ≠ 0. C’est évident si i < 0; supposons i > 0. On note w_{0} l’élément de plus grande longueur de W. On a l(w_{0}) = n (rappelons que n est défini après l’énoncé de la proposition 4.7) et L_{i}(M(𝔟, λ − ρ_{𝔟})) ≃ L_{i+n}(M(w_{0}(𝔟), λ − ρ_{w_{0}(𝔟)})). D’autre part, on a L_{i+n}(M(w_{0}(𝔟), λ − ρ_{w_{0}(𝔟)})) = 0 d’après la proposition 4.10.

Démontrons la seconde assertion. Il résulte de la proposition 6.4 qu’il suffit de la démontrer lorsqu’on a n(𝔟, λ) = n(𝔟′, λ) = 0. Ceci implique que l’on a 𝔟_{0} = 𝔟′_{0}. L’assertion résulte alors de la proposition 2.7.

La troisième assertion est une conséquence de la première assertion et du théorème 5.7.

Pour poursuivre, nous utiliserons un résultat de Kac (cf. [13, §8] pour l’énoncé et [14] pour la démonstration) sur l’irréductibilité des modules de Verma — nous n’aurons besoin en fait que de la condition suffisante.

Théorème 6.7. Soient 𝔟 une sous-algèbre de Borel de 𝔤 et λ ∈ 𝔥^{∗}. Le module M(𝔟, λ − ρ_{𝔟}) est simple si et seulement si les conditions suivantes sont réalisées :

1. Pour toute racine isotrope α, on a λ(H_{α}) ≠ 0 (i.e. λ est typique).

2. Pour toute racine paire α telle que \frac{1}{2}α ne soit pas racine et pour tout entier n > 0 on a λ(h_{α}) ≠ n.

3. Pour toute racine non isotrope impaire et pour tout entier n ≥ 0 on a λ(h_{α}) ≠ \frac{1}{2} + n.

Nous pouvons maintenant énoncer le résultat principal de cette section. Rappelons que pour λ ∈ 𝔥^{∗} et toute sous-algèbre de Borel 𝔟 de 𝔤, le module M(𝔟, λ) admet un plus grand quotient de dimension finie, égal à L_{0}(M(𝔟, λ)), et un unique quotient simple, noté L(𝔟, λ).

Théorème 6.8. Soit λ un élément typique et régulier de 𝔥^{∗}. On suppose que pour une (ou pour toute) sous-algèbre de Borel 𝔟 de 𝔤 l’élément λ − ρ_{𝔟} est un poids.

1. Soit 𝔟 une sous-algèbre de Borel de 𝔤 telle que n(𝔟, λ) = 0. Alors L(𝔟, λ−ρ_{𝔟}) est de dimension finie. Le module L_{0}(M(𝔟, λ − ρ_{𝔟})) est simple et isomorphe à L(𝔟, λ − ρ_{𝔟}). Le supercaractère du module L(𝔟, λ − ρ_{𝔟}) est donné par la formule

sch(L(𝔟, λ − ρ_{𝔟})) = \frac{( ∑_{w∈W} det(w)μ(w)e^{w(λ)}) ∏_{α∈Δ_{1}^{+}(𝔟)}(e^{α/2} + ϵe^{−α/2})}{∏_{α∈Δ_{0}^{+}(𝔟)}(e^{α/2} − e^{−α/2})}·

2. Soit 𝔟 une sous-algèbre de Borel de 𝔤. Alors le module L_{n(𝔟,λ)}(M(𝔟, λ−ρ_{𝔟})) est simple et isomorphe à L(𝔟′, λ − ρ′_{𝔟}) pour toute sous-algèbre de Borel 𝔟′ de 𝔤 telle que n(𝔟′, λ) = 0.

Démonstration. Soit 𝔟 une sous-algèbre de Borel de 𝔤 telle que n(𝔟, λ) = 0. Il résulte de la troisième assertion du théorème 6.6 que le module L_{0}(M(𝔟, λ−ρ_{𝔟})) est non nul. En effet, comme λ est régulier, les w(λ) sont distincts et son supercaractère est non nul. Il en résulte que M(𝔟, λ − ρ_{𝔟}) admet un quotient non nul de dimension finie et donc que L(𝔟, λ − ρ_{𝔟}) est de dimension finie.

Montrons que le module L_{0}(M(𝔟, λ − ρ_{𝔟})) est simple. Pour cela, il suffit de montrer que ce module admet une forme bilinéaire paire non-dégénérée σ-in-variante symétrique. En effet, comme L_{0}(M(𝔟, λ − ρ_{𝔟})) est quotient non nul de M(𝔟, λ − ρ_{𝔟}), son sous-espace de poids λ − ρ_{𝔟} est de dimension un et il engendre L_{0}(M(𝔟, λ − ρ_{𝔟})). Soit 𝔟^{#} une sous-algèbre de Borel de 𝔤 telle que l’on ait n(𝔟^{#}, λ) = n, c’est-à-dire λ(h_{α}) < 0 pour tout α ∈ Δ_{0}^{+}(𝔟^{#}). Il résulte du théorème 6.6 qu’il suffit de démontrer que L_{n}(M(𝔟^{#}, λ − ρ_{𝔟}^{#})) admet une telle forme bilinéaire. Comme, d’après le théorème 6.7, le module M(𝔟^{#}, λ − ρ_{𝔟}^{#}) est simple, ceci résulte de la proposition 4.11.

Le reste du théorème résulte du théorème 6.6.

Explicitant ce qui concerne les modules simples de dimension finie, nous retrouvons des théorèmes classiques de Kac [11] sur les modules typiques :

Théorème 6.9. Soit 𝔟 une sous-algèbre de Borel de 𝔤.

1. Soit V un module simple de dimension finie et soit λ ∈ Q son poids dominant (par rapport à 𝔟). Supposons que λ + ρ_{𝔟} soit typique^{14}. Alors λ + ρ_{𝔟} est régulier et le supercaractère de V est donné par la formule

\frac{( ∑_{w∈W} det(w)μ(w)e^{w(λ+ρ_{𝔟})}) ∏_{α∈Δ_{1}^{+}(𝔟)}(e^{α/2} + ϵe^{−α/2})}{∏_{α∈Δ_{0}^{+}(𝔟)}(e^{α/2} − e^{−α/2})}·

2. Réciproquement, soit λ ∈ Q un poids dominant tel que λ + ρ_{𝔟} soit typique et régulier. Alors il existe un module simple de dimension finie de plus haut poids λ.

Démonstration. Par hypothèse, le module L_{0}(M(𝔟, λ)) est non nul. Il résulte du théorème 6.5 que λ+ρ_{𝔟} est régulier. Le reste est une conséquence du théorème 6.8.

7. Polynômes invariants sur une sous-algèbre de Cartan

Soit 𝔟 une sous-algèbre de Borel de 𝔤. Soit π_{Λ,i} la représentation de 𝔤 dans L_{i}(𝔟, M(𝔟, Λ)). A chaque poids Λ on associe les polynômes sur 𝔥 donnés par :

\begin{aligned}P_{Λ,m} : & 𝔥 & ⟶ & ℂ \\ & H & ↦ & ∑_{i}(−1)^{i}str (π_{Λ,i}(H)^{m}) \end{aligned}

où m ∈ ℕ \ \{0\}. On note aussi T = ∏_{α∈\overline{Δ_{1}^{+}}} α. Si P_{1} et P_{2} sont deux fonctions

polynomiales, alors P_{1}|P_{2} veut dire que P_{2} est multiple de P_{1}.

Théorème 7.1. L’espace vectoriel engendré par les polynômes P_{Λ,m} est l’espace {Φ ∈ S(𝔥^{∗})^{W} : T |Φ}.

Remarquons que cet ensemble est égal à \{Φ ∈ S(𝔥^{∗})^{W} : ∀_{α∈\overline{Δ_{1}}} α|Φ\}; c’est une conséquence du fait que deux racines isotropes, α et β, sont proportionnelles si et seulement si α = ±β (cf. [12, §1.4]).

Ce théorème généralise un théorème de Chevalley concernant les polynômes invariants sur une algèbre de Lie semi-simple et la démonstration qu’on va donner suit les lignes de la démonstration de ce théorème qu’on peut trouver dans [2, ch. VIII] ou dans [4, ch. VII].

14On dit alors, suivant Kac, que V est typique.

Lemme 7.2. Soient Δ′ ⊂ 𝔥^{∗} un système de racines (reduit), Δ^{′+} ⊂ Δ′ un système de racines positif, P′ un sous-réseau du réseau des poids tel que ℤΔ′ ⊂ P′, ρ′ = \frac{1}{2} ∑_{α∈Δ^{′+}} α, W′ le groupe de Weyl et ℤ[P′] l’algèbre des combinaisons linéaires (à coefficients dans ℤ) des éléments e^{λ} (λ ∈ P′). On note, pour chaque λ ∈ P′ :

θ_{λ} = \frac{∑_{w∈W′} det(w)e^{w(λ+ρ)−ρ}}{∏_{α∈Δ^{′+}}(1 − e^{−α})} ·

Alors ℤ[P′]^{W} est engendré par {θ_{λ} : λ ∈ P′}. Ce résultat est bien connu.

Rappelons que Q est le réseau des poids de Δ_{0}(𝔟). On note \overline{Δ_{1}^{+}(𝔟)} =

\overline{Δ_{1}} ∩ Δ^{+}(𝔟) et ω_{𝔟} = ∑_{α∈\overline{Δ_{1}^{+}(𝔟)}} α.

Lemme 7.3. L’élément ω_{𝔟} est dans le réseau Q.

Démonstration. Soit β ∈ Δ_{0}; on veut démontrer que ω_{𝔟}(h_{β}) ∈ ℤ. On choisit une sous-algèbre de Borel 𝔟^{#} de 𝔤 telle que β ou β/2 soit simple par rapport à Δ^{+}(𝔟^{#}). Si α ∈ \overline{Δ_{1}^{+}(𝔟^{#})}, alors

(α + s_{β}(α))(h_{β}) = \{ \begin{matrix}(2α − α(h_{β})β)(h_{β}) = 0 & si β ∈ Δ_{0} \\ (2α − 2α(h_{β})β)(h_{β}) = 0 & si β ∈ Δ_{1} \end{matrix}

et s_{β}(α) ∈ \overline{Δ_{1}^{+}(𝔟^{#})}. On en déduit que (ω_{𝔟^{#}} + s_{β}(ω_{𝔟^{#}}))(h_{β}) = 0 et donc que ω_{𝔟^{#}}(h_{β}) = 0, car s_{α}(ω_{𝔟^{#}})(h_{β}) = −ω_{𝔟^{#}}(h_{β}). Puisque ω_{𝔟} − ω_{𝔟^{#}} ∈ ℤΔ ⊂ Q, on voit que ω_{𝔟}(h_{β}) ∈ ℤ.

Notons Δ′_{0} = \overline{Δ_{0}} ∪ (Δ_{1} \ \overline{Δ_{1}}), Δ_{0}^{′+} = Δ′_{0} ∩ Δ^{+}(𝔟) et ρ′ = ρ(Δ_{0}^{′+}). Remarquons que Δ_{0}^{′+} et ρ′ dépendent du choix de 𝔟 et que :

ρ_{𝔟} = \frac{1}{2} ( ∑_{α∈Δ_{0}^{+}(𝔟)} α − ∑_{α∈Δ_{1}^{+}(𝔟)} α)

= \frac{1}{2} ( ∑_{α∈\overline{Δ_{0}(𝔟)}} α + 2 ∑_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}^{+}(𝔟)}} α − ∑_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}^{+}(𝔟)}} α − ∑_{α∈\overline{Δ_{1}^{+}(𝔟)}} α)
= ρ′ − ω_{𝔟}.
Si λ ∈ 𝔥^{∗}, on note P (λ) = ∑_{α∈Δ_{0}^{+}\\overline{Δ_{0}}} λ(h_{α}). On note aussi

\begin{aligned}Θ : & ℤ[Q] & ⟶ & ℤ[Q] \\ & ∑_{λ∈Q} c_{λ}e^{λ} & ↦ & ∑_{λ∈Q} c_{λ}(−1)^{P (λ)}e^{λ}. \end{aligned}

La fonction Θ est un automorphisme de ℤ[Q] qui ne dépend pas du choix de 𝔟, car si 𝔟^{#} est une autre sous-algèbre de Borel de 𝔤 et si on note P^{#} la fonction analogue à P définie à partir de 𝔟^{#}, alors P (λ) − P^{#}(λ) ∈ 2ℤ pour tout λ ∈ 𝔥^{∗}.

Lemme 7.4. Si α ∈ Δ′_{0}, alors Θ(e^{α}) = \{ \begin{matrix}e^{α} & si α ∈ Δ_{0} \\ −e^{α} & si α ∈ Δ_{1} \ \overline{Δ_{1}}. \end{matrix}

Démonstration. Soit α ∈ Δ′_{0}. On va supposer que α ou α/2 est simple par rapport à Δ^{+}(𝔟); on peut le faire d’après la dernière assertion avant l’énoncé du lemme. On note :

A = \{β ∈ Δ_{0}^{+}(𝔟) \ \overline{Δ_{0}} : α(h_{β}) ≠ 0 et β ∉ \{α, α/2\}\}

et

B = \{β ∈ Δ_{0}^{+}(𝔟) \ \overline{Δ_{0}} : α(h_{β}) = 0\}.

Remarquons que si β ∈ A, alors s_{α}(β) est un élément de A différent de β et que (α + s_{β}(α))(h_{β}) = 0; on en déduit que ∑_{β∈A} β(h_{α}) = 0. On a alors :

P (α) = ∑_{β∈A} α(h_{β}) + ∑_{β∈B} α(h_{β}) + \{ \begin{matrix}α(h_{α}) & si α ∈ Δ_{0} \ \overline{Δ_{0}} \\ 0 & si α ∈ \overline{Δ_{0}} \\ α(h_{2α}) & si α ∈ Δ_{1} \ \overline{Δ_{1}} \end{matrix}

= \{ \begin{matrix}0 ou 2 & si α ∈ \overline{Δ_{0}} \\ 1 & si α ∈ Δ_{1} \ \overline{Δ_{1}} \end{matrix}

et donc P (α) est pair si et seulement si α ∈ Δ_{0}.

Soit ν : W ⟶ {1, −1} la fonction telle que :

(∀_{w∈W}) : w ( ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}} (e^{α/2} − e^{−α/2})) = ν(w) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}} (e^{α/2} − e^{−α/2}) .

Lemme 7.5. Si w ∈ W, alors Θ(e^{w(ρ′)−ρ′}) = ν(w)e^{w(ρ′)−ρ′}.

Proof. Puisque w(ρ′) − ρ′ = ∑_{α∈Δ_{0}^{′+} et w(α)<0} α, on a :

Θ (e^{w(ρ′)−ρ′}) = Θ ( ∏_{α∈Δ_{0}^{′+} et w(α)<0} e^{α}) = (−1)^{#\{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}:w(α)<0\}}

d’après le lemme 7.4. On déduit de la définition de la fonction ν que

ν(w) = (−1)^{#\{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}:w(α)<0\}}.

Lemme 7.6. Si w ∈ W et λ ∈ Q, alors Θ (e^{w(λ)}) = (−1)^{P (λ)}e^{w(λ)}.

Proof. En effet,

P (w(λ)) − P (λ) = 2 ∑_{α∈Δ_{0}^{′+} et w(α)<0} λ(h_{α}) ∈ 2ℤ

et donc

Θ (e^{w(λ)}) = ((−1)^{P (λ)}e^{w(λ)}) = w ((−1)^{P (λ)}e^{λ}) = (−1)^{P (λ)}e^{w(λ)}

108 Santos Lemme 7.7. Si λ ∈ Q, alors :

Θ (\frac{∑_{w∈W} det(w)e^{w(λ+ρ′)}}{∏_{α∈Δ_{0}^{′+}}(e^{α/2} − e^{−α/2})}) = \frac{(−1)^{P (λ)} ∑_{w∈W} det(w)ν(w)e^{w(λ+ρ′)}}{∏_{α∈\overline{Δ_{0}^{+}(𝔟)}}(e^{α/2} − e^{−α/2}) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}}(e^{α/2} + e^{−α/2})}·

Proof. On a

\frac{∑_{w∈W} det(w)e^{w(λ+ρ′)}}{∏_{α∈Δ_{0}^{′+}}(e^{α/2} − e^{−α/2})} = \frac{∑_{w∈W} det(w)e^{w(λ+ρ′)−ρ′}}{∏_{α∈Δ_{0}^{′+}}(1 − e^{−α})}
= \frac{∑_{w∈W} det(w)e^{w(λ)}e^{w(ρ′)−ρ′}}{∏_{α∈\overline{Δ_{0}^{+}(𝔟)}}(1 − e^{−α}) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}}(1 − e^{−α})}

et donc

Θ (\frac{∑_{w∈W} det(w)e^{w(λ+ρ′)}}{∏_{α∈Δ_{0}^{′+}}(e^{α/2} − e^{−α/2})}) =

= \frac{∑_{w∈W} det(w)Θ(e^{w(λ)})Θ(e^{w(ρ′)−ρ′})}{∏_{α∈\overline{Δ_{0}^{+}(𝔟)}}(1 − Θ(e^{−α})) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}}(1 − Θ(e^{−α}))}
= \frac{∑_{w∈W} det(w)(−1)^{P (λ)}ν(w)e^{w(λ)}e^{w(ρ′)−ρ′}}{∏_{α∈\overline{Δ_{0}^{+}(𝔟)}}(1 − e^{−α}) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}}(1 + e^{−α})} (d’après les lemmes 7.4, 7.5 et 7.6)
= (−1)^{P (λ)} \frac{∑_{w∈W} det(w)ν(w)e^{w(λ+ρ′)}}{∏_{α∈\overline{Δ_{0}^{+}(𝔟)}}(e^{α/2} − e^{−α/2}) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}}(e^{α/2} + e^{−α/2})}·

Si λ ∈ Q, on note

Ψ_{λ} = \frac{∑_{w∈W} det(w)ν(w)e^{w(λ+ρ′)}}{∏_{α∈\overline{Δ_{0}^{+}(𝔟)}}(e^{α/2} − e^{−α/2}) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}}(e^{α/2} + e^{−α/2})};

on déduit du lemme 7.7 que Ψ_{λ} ∈ ℤ[Q].

Le lemme 7.2 (appliqué au réseau Q) et le fait que Θ est un automorphisme de ℤ[Q] impliquent que l’on a :

Corollaire 7.8. L’ensemble {Ψ_{λ} : λ ∈ Q} engendre ℤ[Q]^{W}.

Rappelons que si V est un 𝔤-module qui admet un supercaractère, alors on note sch_{−1}(V) l’élément que l’on obtient de sch(V) quand on remplace ϵ par −1. Soit μ : W ⟶ {1, ϵ} la fonction qui a été définie avant l’énnoncé de la proposition 5.7. Si on remplace ϵ par −1, alors la fonction μ devient la fonction ν. En effet, T est W -invariant (cf. [12, §1.5]); on en déduit que ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}}(e^{α/2} − e^{−α/2}) est W -invariant et on a donc, pour tout w ∈ W :

w ( ∏_{α∈Δ_{1}^{+}(𝔟)}(e^{α/2} − e^{−α/2})) =

= w ( ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}}}(e^{α/2} − e^{−α/2})) .w ( ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}}(e^{α/2} − e^{−α/2}))
= ν(w) ∏_{α∈Δ_{1}^{+}(𝔟)}(e^{α/2} − e^{−α/2}).

Corollaire 7.9. L’ensemble {∑_{j≥0}(−1)^{j} sch_{−1} (L_{j}(M(𝔟, λ − ρ_{𝔟}))) : λ ∈ Q} en-

gendre l’espace des éléments de ℤ[Q]^{W} qui sont divisibles par ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}} e^{α/2} − e^{−α/2}.

Démonstration. Ceci est une conséquence de la proposition 5.7. On a, pour λ ∈ Q :

∑_{j}(−1)^{j} sch_{−1} L_{j}(M(𝔟, λ)) = \frac{( ∑_{w∈W} det(w)ν(w)e^{w(λ+ρ_{𝔟})}) ∏_{α∈Δ_{1}^{+}(𝔟)}(e^{α/2} − e^{−α/2})}{∏_{α∈Δ_{0}^{+}(𝔟)}(e^{α/2} − e^{−α/2})}

= \frac{∑_{w∈W} det(w)ν(w)e^{w(λ+ρ_{𝔟})}}{∏_{α∈\overline{Δ_{0}^{+}(𝔟)}}(e^{α/2} − e^{−α/2}) ∏_{α∈Δ_{1}^{+}(𝔟)\\overline{Δ_{1}^{+}(𝔟)}}(e^{α/2} + e^{−α/2})} ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}}(e^{α/2} − e^{−α/2})(21)

et cette expression et égale à Ψ_{λ} · ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}}(e^{α/2} − e^{−α/2}).

Si g = ∑_{n=0}^{∞} g_{n} est une série formelle, avec g_{m} ∈ S^{m}(𝔥^{∗}) pour chaque m ∈ ℕ, on note d_{m}(g) = g_{m}. En particulier, si λ ∈ 𝔥^{∗} et m ∈ ℕ, alors d_{m}(e^{λ}) = λ^{m}/m! et, plus généralement

d_{m}(ge^{λ}) = ∑_{k=0}^{m} g_{k} \frac{λ^{m−k}}{(m − k)!}·

Lemme 7.10. Si λ ∈ 𝔥^{∗}, m ∈ ℕ \ {0} et g_{0} ≠ 0, alors λ^{m} est combinaison linéaire de d_{m}(e^{λ}g), d_{m}(e^{2λ}g), …, d_{m}(e^{(m+1)λ}).

Démonstration. Il suffit que l’on remarque que si j ∈ ℕ \ {0}, alors

d_{m}(e^{jλ}) = ∑_{k=0}^{m} 2^{m−k}g_{k} \frac{λ^{m−k}}{(m − k)!}

et que le déterminant de la matrice

( \begin{matrix}1 & 1 & ⋯ & 1 \\ 2^{m} & 2^{m−1} & ⋯ & 1 \\ ⋯ & ⋯ & ... & ⋯ \\ (m + 1)^{m} & (m + 1)^{m−1} & ⋯ & 1 \end{matrix} )

est non nul.

Si λ ∈ 𝔥^{∗}, on note γ_{λ} = ∑_{w∈W} w(e^{λ}); si m ∈ ℕ \ {0}, on a alors d_{m}(γ_{λ}) = ∑_{w∈W} (w(λ))^{m}/m! et on déduit du lemme 7.10 que si g ∈ S(𝔥^{∗})^{W} et si g_{0} ≠ 0, alors d_{m}(γ_{λ}) est combinaison linéaire de d_{m}(γ_{λ}g), d_{m}(γ_{2λ}g), …, d_{m}(γ_{(m+1)λ}). Supposons maintenant que λ ∈ Q. Puisque {mγ : m ∈ ℕ\{0}} ⊂ Q, chaque d_{j}(γ_{λ}) est combinaison linéaire des d_{m}(gΨ) (Ψ ∈ ℤ[Q]^{W}). On déduit de cette assertion et du corollaire 7.8 que l’on a :

Corollaire 7.11. Si λ ∈ Q et m ∈ ℕ \ {0}, alors d_{m}(γ_{λ}) est combinaison linéaire des d_{m}(Ψ_{Λ}) (Λ ∈ Q).

Pour démontrer le théorème 7.1 on prend

g = ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}} \frac{e^{α/2} − e^{−α/2}}{α} ·

On note q le degré de T; on a donc q = #\overline{Δ_{1}^{+}(𝔟)}. On a remarqué dans la démonstration du corollaire 7.9 que T est W -invariant; on en déduit que g est aussi W -invariant. On peut donc écrire g sous la forme ∑_{n=0}^{∞} g_{n} avec g_{m} ∈ S^{m}(𝔥^{∗})^{W} pour chaque m ∈ ℕ. Remarquons que g_{0} = 1. Si λ ∈ Q et m ∈ ℕ \ {0}, notons

ζ_{λ}^{m} = d_{m} (Ψ_{λ} ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}} e^{α/2} − e^{−α/2})

et η_{λ}^{m} = d_{m}(gΨ_{λ}). On a alors :

ζ_{λ}^{m} = \{ \begin{matrix}T d_{m−q}(η_{λ}^{m}) & si m ≥ q \\ 0 & si m < q. \end{matrix}

On en déduit que si m ≥ q, alors T d_{m−q}(γ_{λ}) est combinaison linéaire des

d_{m} (Ψ_{Λ} ∏_{α∈\overline{Δ_{1}^{+}(𝔟)}} e^{α/2} − e^{−α/2}) (Λ ∈ Q). Le théorème 7.1 est alors une conséquence

de la formule (21).

Références

[1]  Bourbaki, N., “Groupes et algèbres de Lie, ch. IV–VI”, Masson, 1981.
[2]  —, “Groupes et algèbres de Lie, ch. VII–VIII”, Masson, 1990.

[3] Demazure, M., A very simple proof of Bott’s theorem, Inv. Math. 5 (1968), 349–356.

[4]  Dixmier, J., “Algèbres enveloppantes”, Gauthier-Villars, 1974.

[5] Duflo, M. et M. Vergne, Sur le foncteur de Zuckerman, C. R. Acad. Sc. Paris 304 (1987), 467–469.

[6] Fuks, D. B, “Cohomology of infinite-dimensional Lie algebras”, Plenum Publishing Corporation, 1986.

[7] Guichardet, A., “Cohomologie des groupes topologiques et des algèbres de Lie”, CEDIC/Fernand Nathan, 1980.

[8] Hochschild, G., Semisimplicity of 2-graded Lie algebras, Illinois J. Math. 20 (1976), 107–123.

[9] Kac, V. G., “Infinite dimensional Lie algebras (third edition)”, Cambridge University Press, 1990.

[10] —, Lie superalgebras, Adv. Math. 26 (1977), 8–96.

[11] —, Characters of typical representations of classical Lie superalgebras, Comm. Alg. 5 (1977), 889–897.

[12] —, Representations of classical Lie superalgebras, “Differential geometrical methods in mathematical physics, Proceedings, 1977” (K. Bleuler et al., eds.), 597–626, Springer-Verlag, 1978.

[13] —, Highest weight representations of conformal current algebras, “Symposium on topological and geometrical methods in field theory, Finland, 1986” (J. Hieterinta et J. Westerholm, eds.), 3–15, World Scientific, 1986.

[14] Kac, V. G., et D. A. Kazhdan, Structure of representations with highest weight of infinite-dimensional Lie algebras, Adv. Math. 34 (1979) 97–108.

[15] Knapp, A. W., “Lie groups, Lie algebras, and cohomology”, Princeton University Press, 1988.

[16] Knapp, A. W., et D. A. Vogan, jr., “Cohomological induction and unitary representations”, Princeton University Press, 1995.

[17] Koszul, J.-L., Graded manifolds and graded algebras, “Proceedings of the International Conference on Geometry and Physics, Florence, 1982”, Pitagora, 1983, 71–84.

[18] Leites, D. A., Cohomologies of Lie superalgebras, Funct. Anal. Appl. 9 (1976), 340–341.

[19] Penkov, I., “Geometric representation theory of classical complex Lie supergroups”, non publié.

[20] Penkov, I., et V. Serganova, Cohomology of G/P for classical Lie supergroups G and characters of some atypical G-modules, Ann. Inst. Fourier, 39 (1989) n^{o}4, 845–873.

[21] —, Representations of classical Lie superalgebras of type I, Indag. Math., N. S. 3 (1992), 419–466.

[22] Santos, J. C., “Induction homologique dans les super algèbres de Lie basiques classiques”, thèse, Université Paris VII, 1996.

[23] van de Leur, J., “Contragredient Lie superalgebras of finite growth”, thèse, Université d’Utrecht, 1986.

[24] Wallach, N. R., “Real reductive groups I”, Academic Press, 1988.

Departamento de Matemática Pura Faculdade de Ciências Praça Gomes Teixeira 4050 Porto Portugal e-mail : jcsantos@fc.up.pt

Received July 30, 1997 and in final form July 2, 1998