Journal of Lie Theory Volume 9 (1999) 425–459 ◯^{C}1999 Heldermann Verlag

Coefficients généralisés de séries principales sphériques relatifs aux espaces symétriques déployés

Mustapha Tinfou

Communicated by J. Faraut

Résumé. Soient G un groupe de Lie semi-simple connexe et H le sousgroupe des points fixes d’une involution non triviale de G. On suppose que G/H est déployé. Dans ce cas on calcule certains coefficients généralisés de la série principale sphérique de G en fonction de la matrice B introduite par E. van den Ban. Ensuite, grâce au front d’onde, on trouve une formule pour la matrice B qui correspond à l’élément de plus grande longueur du groupe de Weyl.

Mots-clé. Groupe de Lie semi-simple, Espace symétrique, front d’onde.

Abstract. Let G be a connected semisimple Lie group and H be the fixed point group for a non trivial involution of G. Assume G/H is split. In this case we compute some generalized coefficients of the spherical principal series of G in term of the B -matrix introduced by E. van den Ban. We use the wave front set to give a formula for the B -matrix corresponding to the longest element of the Weyl group.

AMS Classification. 20G05, 22E30, 43A85.

Key words. Semisimple Lie group, Symmetric space, Wave front set.

0. Introduction

Soient G un groupe de Lie semi-simple connexe et σ une involution non triviale de G. Soit θ une involution= de Cartan qui commute avec σ. On note H l’ensemble des points fixes de σ. On suppose que G/H admet un sous-espace de Cartan 𝔞 formé d’éléments hyperboliques. Soient A := exp 𝔞 et P := MAN un sous-groupe parabolique σθ-stable minimal de G. Si W est l’ensemble des (H, P)-doubles classes ouvertes dans G, on dispose d’une famille méromorphe ξ_{λ}^{x}, x ∈ W, λ ∈ 𝔞_{ℂ}^{∗}, de vecteurs distributions H -invariants de la série principale sphérique (π_{λ}, I_{λ}^{P}). Pour λ générique, x, y ∈ W, on définit le coefficient généralisé de I_{λ}^{P} correspondant à ξ_{λ}^{x} et ξ_{−λ}^{y}, Θ_{λ}^{x,y}, par:

∀φ ∈ C_{c}^{∞}(G/H), Θ_{λ}^{x,y}(φ) = ⟨π′_{λ}(φ)ξ_{λ}^{x}, ξ_{−λ}^{y}⟩,

ISSN 0949–5932 / $2.50 ◯^{C} Heldermann Verlag où π′_{λ} est la contragrédiente de π_{λ}. En fait, Θ_{λ}^{x,y} est une distribution sphérique sur G/H. Si C_{P} est la chambre de Weyl de 𝔞 correspondant à P et z un élément du groupe de Weyl de (𝔤, 𝔞), W, on note C_{z} := exp(−zC_{P}). Pour tout w ∈ W, sur C_{z}wH, Θ_{λ}^{x,y} est une fonction analytique et solution d’un système différentiel dont l’espace des solutions est de dimension |W |. On dispose d’une base, Φ(C_{z}w, −uλ, .), u ∈ W, de cet espace. Ainsi

∀a ∈ C_{z}, Θ_{λ}^{x,y}(awH) = ∑_{u∈W} c_{w}(x, y, C_{z}, u, −λ)Φ(C_{z}w, −uλ, awH).

Dans la première partie de cet article, on détermine les coordonnées

c_{w}(x, y, C_{z}, u, −λ)

en fonction de la matrice B introduite par van den Ban, en développant et modifiant une méthode utilisée par P. Delorme dans [7] lorsque G est un groupe complexe, H est une forme réelle de G admettant un sous-groupe de Cartan compact et x = y = e. En particulier, en contraste avec la méthode de P. Delorme, il est nécessaire de ne pas se limiter au cas où x = y = e. Ceci fait l’objet du théorème 2. Dans le cas des hyperboloïdes, le calcul de Θ_{λ}^{e,e}(aH) est contenu dans le travail de J. Faraut [10], th. 3.4 et prop. 7.5; le cas de SL(n, ℝ)/GL(n − 1, ℝ) est traité de façon similaire (cf. [19], th. 8.5 et [8], prop. 5.1). Plus généralement, pour le cas des espaces symétriques de rang 1, voir l’article de V.F Molchanov [20], §8. Le cas des espaces symétriques de type G/K_{ε} est traité dans [23]. Enfin, ce théorème permet de retrouver le théorème 5.1 de [13]. Dans la dernière partie de cet article, grâce au front d’onde, on décrit les coefficients de B, pour l’élément de W transformant N en θ(N), comme restriction à K (sous-groupe compact maximal de G) de produit de distributions sur G appliqué à 1_{K} (cf. th. 3).

1. Notations

Si X est un ensemble, on notera |X| son cardinal. Si E est un espace vectoriel réel ou complexe on notera E^{∗} son dual et E_{ℂ} son complexifié s’il est réel. Si E est un espace vectoriel complexe et F un sous-espace vectoriel réel de E avec F ∩ iF = {0}, on identifiera F_{ℂ} à F + iF ⊂ E. Si E est un espace vectoriel localement convexe séparé (e.l.c.s), on notera E′ son dual topologique. Le crochet de dualité sera noté ⟨·, .⟩ ou plus précisément ⟨·, ⟩_{E,E′}. Si A est un opérateur continu de E dans F (avec E, F e.l.c.s), on notera A′ le transposé de A qui envoie F′ dans E′. Si on a une représentation π d’un groupe de Lie G dans E, e.l.c.s, par des opérateurs continus, on notera π′ la représentation contragrédiente définie par π′(g) = (π(g^{−1}))′. Si E est un espace de Hilbert (réel ou complexe) on notera (,) le produit scalaire (linéaire en la première variable). Si L est un groupe de Lie, on notera 𝔩 son algèbre de Lie, U(𝔩) l’algèbre enveloppante de l_{ℂ}. L’action régulière gauche (resp. droite) de D ∈ U(𝔩) (resp. g ∈ G) sur f, fonction C^{∞} sur L, sera notée L_{D}f (resp. R_{D}f, resp. L_{g}f, R_{g}f). Si Q est un sous-groupe de L et Y est une partie de L ou 𝔩, on note Z_{Q}(Y) le centralisateur de Y dans Q. Le centre de L sera noté Z(L). On notera L^{0} la composante connexe de l’élément neutre de L. Si X est une variété, on notera D(X) := C_{c}^{∞}(X), E(X) := C^{∞}(X) munis de leurs topologies usuelles et D′(X) (resp. E′(X)) l’espace des distributions (resp. distributions à support compact) sur X. Si X est un groupe de Lie (resp. un espace homogène d’ un groupe de Lie) muni d’une mesure de Haar (resp. invariante) à gauche, on identifie E(X) (resp. D(X)) à un sous-espace de D′(X) (resp. E′(X)).

2. Espaces symétriques réductifs déployés

Soit G un groupe de Lie semi-simple, connexe. On suppose que G est contenu dans un groupe de Lie connexe et simplement connexe G_{ℂ}, dont l’algèbre de Lie est 𝔤_{ℂ}. Soient σ une involution de G non triviale et θ une involution de Cartan qui commute avec σ. On note H (resp. K) l’ensemble des points fixes de σ (resp. θ). On garde les mêmes notations, σ et θ, pour désigner les involutions correspondant respectivement à σ et θ. On note 𝔮 (resp. 𝔭) le sous-espace propre de σ (resp. θ) pour la valeur -1. On munit 𝔤 du produit scalaire défini par (X, Y) := − tr(ad X ad θ(Y)). On note de même son prolongement sesquilinéaire à 𝔤_{ℂ}. Soit 𝔞 un sous-espace abélien maximal dans 𝔭∩𝔮. On note Δ := Δ(𝔤, 𝔞) l’ensemble des poids non nuls de 𝔞 dans 𝔤. C’est un système de racines (cf. [25], §7.2). On fixe un ensemble de racines positives, Δ^{+}, de Δ. On désigne par Σ l’ensemble des racines simples de Δ^{+}. Soit 𝔫 := ⨁_{α∈Δ^{+}} 𝔤^{α} où 𝔤^{α} est le sous-espace radiciel de 𝔤

correspondant à la racine α de 𝔞.On note L le centralisateur de 𝔞 dans G. Soit 𝔪 l’orthogonal de 𝔞 dans 𝔩, alors 𝔪∩𝔭 est inclus dans 𝔥. On désigne respectivement par N, A et M^{0} les sous-groupes analytiques de G d’algèbres de Lie 𝔫, 𝔞 et 𝔪. Soit 𝔞_{h} un sous-espace abélien maximal de 𝔪 ∩ 𝔭 et 𝔞_{p} := 𝔞 ⊕ 𝔞_{h}, alors 𝔞_{p} est un sous-espace abélien maximal dans 𝔭, σ-stable et 𝔞_{p} ∩ 𝔥 = 𝔞_{h} (cf. [21], p.608). On pose F := K ∩ exp(i𝔞_{p}) et M := F M^{0}. Alors les éléments de F sont d’ordre 2 et M est un groupe réductif fermé σ et θ -stable. Le sous-groupe de G, P := MAN, est un sous-groupe parabolique σθ- stable (cf. [21], p. 608). On note ρ la forme linéaire sur 𝔞 définit par:

∀X ∈ 𝔞, ρ(X) = \frac{1}{2} tr(ad X|_{𝔫}).

On fixe une sous-algèbre de Cartan 𝔧 de 𝔤, σ et θ -stable, qui contient 𝔞_{p} (cf. [5], §2.1 pour l’existence). Les décompositions 𝔞_{p} = 𝔞⊕𝔞_{h} et 𝔧 = 𝔞_{p}⊕(𝔧∩𝔨) permettent d’identifier 𝔞^{∗} et 𝔞_{p}^{∗} à des sous-espaces respectivement de 𝔞_{p}^{∗} et 𝔧^{∗}. On choisit un ensemble de racines positives Δ^{+}(𝔤_{ℂ}, 𝔧_{ℂ}) du système de racines de 𝔧_{ℂ} dans 𝔤_{ℂ}, Δ(𝔤_{ℂ}, 𝔧_{ℂ}), compatible avec Δ^{+}. Pour α ∈ Δ(𝔤_{ℂ}, 𝔧_{ℂ}) on note σα := α ∘ σ|_{𝔧_{ℂ}}. On note

Δ_{∗j} := {α ∈ Δ(𝔤_{ℂ}, 𝔧_{ℂ}) : α|_{𝔞} ≠ 0}.

On note W le groupe de Weyl de Δ(𝔤, 𝔞) qu’on identifie au quotient de N_{K}(𝔞) par Z_{K}(𝔞) (cf.[1], lemme 1.2). Si w ∈ W, il admet un représentant dans N_{K}(𝔞) qui normalise 𝔧 (cf. [21], p.608). On note W_{H} l’image dans W de N_{K∩H}(𝔞). Si C est une chambre de 𝔞 relativement à Δ, on note C := exp(C). La chambre qui correspond à Σ sera notée C_{P}. On notera w_{0} l’unique élément de W qui transforme Δ^{+} en −Δ^{+}.

On note 𝔤^{+} := (𝔨 ∩ 𝔥) ⊕ (𝔭 ∩ 𝔮) qui n’est autre que l’ensemble des points fixes de σθ. C’est une algèbre de Lie réductive.

Dans ce paragraphe on peut se référer à ([21], §2). Si α ∈ Δ, on note:

Δ(α) := {β ∈ Δ(𝔤, 𝔞_{p}) : β|_{𝔞} = α} et r_{α} := max_{β∈Δ(α)}(|β|/|α|)^{2},

alors r_{α} ∈ {1, 2, 4} (cf. [21], lemme 2.3). Soient α_{1}, ⋯, α_{l} les éléments de Σ. On désigne par d_{i}, i = 1, ⋯, l, le maximum de {r_{α_{i}}, 2r_{2α_{i}}} si 2α_{i} ∈ Δ, et r_{α_{i}} sinon.

Soit μ_{i} ∈ 𝔞^{∗} tel que:

(μ_{i}, α_{j}) = d_{j}∥α_{j}∥^{2}δ_{ij}

que l’on regarde comme élément de 𝔧_{ℂ}^{∗}, grâce à l’égalité 𝔧 = (𝔧∩𝔥)⊕𝔞. Alors μ_{i} est un poids entier dominant relativement à Δ^{+}(𝔤_{ℂ}, 𝔧_{ℂ}). Soit (π_{i}, V_{i}) la représentation irréductible holomorphe de G_{ℂ}, de plus haut poids μ_{i}. On munit V_{i} d’un produit scalaire invariant par le sous-groupe analytique de G_{ℂ} d’algèbre de Lie 𝔨 ⊕ i𝔭. Alors pour g ∈ G, π_{i}(g)^{∗} = π_{i}(θ(g^{−1})) et deux sous-espaces de poids sous 𝔞 de V_{i} pour des poids distincts sont orthogonaux. De plus π_{i} admet un vecteur H - invariant non nul, u_{i}, et un vecteur unitaire K -invariant, e_{i}^{K}. Soit v_{i} un vecteur unitaire de V_{i} de plus haut poids μ_{i} sous 𝔧. On peut supposer que (u_{i}, v_{i}) = 1. Pour tout i = 1, ⋯, l, on définit les fonctions, ε_{i}, de G par :

∀g ∈ G, ε_{i}(g) = (π_{i}(g)v_{i}, u_{i}).

On rappelle que si W est un ensemble de représentants de W_{H} \ W, {HwP : w ∈ W} est un ensemble de représentants des doubles classes ouvertes de G modulo (H, P) (cf. [1], prop. B.1). De plus les fonctions ε_{i} sont analytiques et on a:

G \ ⋃_{i=1}^{l} HwP = {g ∈ G : ∏_{i=1}^{l} ε_{i}(g) = 0}

(cf. [21], th.2.5). Montrons le résultat suivant:

Lemme 1. Pour tout i = 1, ⋯, l, v_{i} est M -invariant et ε_{i} est invariant à droite par M.

Démonstration. En effet, v_{i} est invariant sous le groupe analytique de G_{ℂ} d’algèbre de Lie 𝔪_{ℂ} (même preuve que [5], lemme 2 (v)), donc par M^{0}. De plus il l’est aussi par F (cf. [21], p.611). Donc il est M -invariant. Ceci joint à la définition de ε_{i} donne le résultat voulu.

On rappelle que si 𝔟 est un sous-espace abélien maximal de 𝔮 formé d’ éléments semi-simples, le sous-ensemble de Cartan de G/H associé à 𝔟 est par définition {gH ∈ G/H : gσ(g^{−1}) ∈ Z_{G}(𝔟)}. Soit A le sous-ensemble de Cartan de G/H correspondant à 𝔞. Hypothèse. Dans toute la suite de l’article, sauf mention expresse du contraire, on supposera que 𝔞 est abélien maximal dans 𝔮. Dans ce cas on dit que l’espace symétrique G/H est déployé.

Remarque 1. Si G/H est déployé alors 𝔪 ∩ 𝔮 = 0, donc 𝔪, qui est égal à (𝔪 ∩ 𝔥) ⊕ (𝔪 ∩ 𝔮) (car 𝔪 est σ-stable), est contenu dans 𝔥. Donc M^{0} est inclus dans H.

Lemme 2. Soient w ∈ N_{K}(𝔞) et t_{w} := σ(w^{−1})w. On a:

(i) t_{w} ∈ exp(i𝔞) ∩ H ∩ K. En particulier t_{w} ∈ Z_{F ∩H}(M).

(ii) w normalise H ∩ M.

(iii) Pour tout i ∈ {1, ⋯, l} on a ε_{i}^{2}(w) = 1.

Démonstration.

(i) Pour w ∈ N_{K}(𝔞) et a ∈ A, on a wa^{−1}w^{−1} ∈ A. Donc

σ(wa^{−1}w^{−1}) = waw^{−1}.

D’autre part on a:

σ(wa^{−1}w) = σ(w)aσ(w)^{−1}.

Donc:

waw^{−1} = σ(w)aσ(w)^{−1}.

On en déduit que t_{w} ∈ Z_{K}(A) = K ∩ M. En outre comme t_{w} est de la forme gσ(g^{−1}), il résulte du lemme 1.1 de [24] que t_{w} ∈ exp(𝔞_{ℂ}). D’où t_{w} ∈ Z(M) et θ(t_{w}) = t_{w}^{−1}. D’autre part, puisque t_{w} ∈ K, on a θ(t_{w}) = t_{w}. Cela montre que t_{w}^{2} = e, c’est à dire que t_{w} = t_{w}^{−1}. Mais σ(t_{w}) = t_{w}^{−1}. On en déduit que t_{w} ∈ H. Comme exp(i𝔞) est l’ensemble des éléments de exp(𝔞_{C}) dont le carré est e, on en déduit que t_{w} ∈ exp i𝔞 ∩ H ∩ K. (ii) D’après (i) on a, pour tout m ∈ H ∩ M, σ(w^{−1})wmw^{−1}σ(w) = m, c’est à dire pour tout m ∈ H ∩ M σ(wmw^{−1}) = wmw^{−1}. De plus w normalise M, donc w normalise H ∩ M. (iii) Il découle de l’holomorphie de π_{i} que la fonction, f_{i}, définie dans G par f_{i}(g) = (π_{i}(σ(g^{−1})g)v_{i}, v_{i}) est analytique. Il est clair que f_{i} est invariante à gauche par H. Comme v_{i} est MN -invariant (cf. lemme 1) et σθ(N) = N, notre choix du produit scalaire sur V_{i} (cf. §2.1) montre que f_{i} est invariante à droite par MN. En outre f_{i} coïncide avec ε_{i}^{2} sur A. On en déduit que f_{i} et ε_{i}^{2} coïncident sur HP qui est un ouvert de G. Comme G est connexe, l’égalité des fonctions analytiques:

ε_{i}^{2} = f_{i}  (2.1)

en résulte. Comme t_{w} ∈ M, d’après (i), et v_{i} est un vecteur unitaire M -invariant, d’après (2.2.1), on a:

∀w ∈ W, f_{i}(w) = 1.  (2.2)

Alors (iii) résulte de (2.1) et (2.2).

Proposition 1. a) Pour w, w′ ∈ N_{K}(𝔞), les propriétés suivantes sont équivalentes:

(i) AwH = Aw′H.

(ii) AwH ∩ Aw′H ≠ Ø.

(iii) w^{−1}w′ ∈ N_{K∩H}(𝔞).

b) Si L est un ensemble de représentants de N_{K}(𝔞)/N_{K∩H}(𝔞) alors L est fini et on a:

A = ⋃_{w∈L} AwH (réunion disjointe).

Démonstration.

a) Il est clair que (i) ⟹ (ii). Montrons que (ii) ⟹ (iii): Si AwH ∩ Aw′H ≠ Ø, il existe a ∈ A, h ∈ H tels que: w′ = awh, d’où σ(w′)w^{′−1} = a^{−1}σ(w)w^{−1}a^{−1}, et d’après le lemme 1 ceci implique que :

t_{w^{′−1}} = t_{w^{−1}}a^{−2}.  (2.3)

Comme MA ∩ K = K ∩ M, (2.3) implique que a^{−2} = e, et a = e puisque A est un groupe vectoriel. Donc w′ = wh, ce qui montre que w^{−1}w′ ∈ N_{K∩H}(𝔞). Maintenant (iii) implique (i). En effet, si w^{−1}w′ ∈ N_{K∩H}(𝔞), on a AwH = Aw(w^{−1}w′)H. Donc AwH = Aw′H. Ceci achève la démonstration de a).

b) Si gH = awH avec a ∈ A, w ∈ L, on a:

σ(g)g^{−1} = a^{−1}t_{w^{−1}}a^{−1}.

Mais d’après le lemme 1, t_{w^{−1}} est élément de M. On a donc :

σ(g)g^{−1} = t_{w^{−1}}a^{−2} ∈ Z_{G}(𝔞),

c’est à dire g ∈ A. Finalement on obtient:

⋃_{w∈L} AwH ⊂ A

Montrons l’inclusion inverse. On rappelle qu’il existe m ∈ ℕ et k_{1}, …, k_{n} ∈ K tels que:

A = ⋃_{i=1}^{m} Ak_{i}H,  (2.4)

(cf.[22], proposition 1). La définition de A montre que k_{i}σ(k_{i}^{−1}) centralise 𝔞. Il suffit de montrer que si k ∈ K est tel que kσ(k^{−1}) centralise 𝔞, il existe w ∈ N_{K}(𝔞), h ∈ H tels que k = wh. Donnons-nous un tel k. Soit X ∈ 𝔞, alors on a:

Ad(kσ(k^{−1}))X = X.

D’où:

Ad(σ(k^{−1}))X = Ad (k^{−1})X.

D’autre part comme σ(X) = −X, on a:

Ad(σ(k^{−1}))X = −σ(Ad(k^{−1})X).

On en déduit que:

σ(Ad(k^{−1})X) = −Ad (k^{−1})X.

Donc Ad(k^{−1})X est élément de 𝔮. Mais comme X ∈ 𝔭 et k ∈ K, on a aussi Ad(k^{−1})X ∈ 𝔭. Ceci montre que Ad(k^{−1})𝔞 ⊂ 𝔭 ∩ 𝔮, et par conséquent Ad(k^{−1})𝔞 est un sous-espace abélien maximal dans 𝔭 ∩ 𝔮. Si on considère l’algèbre réductive 𝔤^{+} := (𝔨 ∩ 𝔥) ⊕ (𝔭 ∩ 𝔮), on en déduit qu’il existe h ∈ K ∩ H tel que Ad(k^{−1})𝔞 = Ad(h^{−1})𝔞, d’où kh^{−1} ∈ N_{K}(𝔞), et k = wh avec w ∈ N_{K}(𝔞).

Appliquant cela aux k_{i} et utilisant (a), on obtient:

A ⊂ ⋃_{w∈N_{K}(𝔞)} AwH = ⋃_{w∈L} AwH.

D’où on déduit de cela l’égalité voulue. La réunion est disjointe d’après (a), et avec les notations de la démonstration de (a) on a immédiatement | L |≤ m. Donc L est fini.

Le produit scalaire sur 𝔤 introduit en 2.2 permet de sélectionner sur les sous-groupes de Lie de G une mesure de Haar à gauche qu’on appellera mesure standard (cf. [14], §7). Si L ⊂ G est compact, la mesure ainsi sélectionnée ne sera pas en général de masse totale 1. On notera vol(L) cette masse. On appelera mesure normalisée la mesure de Haar sur L de masse totale 1. A l’exception des sous-groupes K et K ∩ M de G pour lesquels on utilisera les mesures normalisées (notées dk, dm_{k}), on utilisera les mesures à gauche standards (sauf mention expresse du contraire) qu’on note dl pour un sous-groupe L. Si Q ⊂ L sont des sous-groupes de Lie G et s’il existe une mesure invariante à gauche sur L/Q, on notera dl̇ celle qui vérifie:

∀f ∈ C_{c}(L), ∫_{L} f(l)dl = ∫_{L/Q}(∫_{Q} f(lq)dq)dl̇.

Si x = exp X avec X ∈ 𝔞_{ℂ} et α un poids de 𝔞, on note x^{α} := e^{α(X)}. Soit w un élément de W, C une chambre de Weyl de 𝔞 et C := exp C. On définit une application F_{w} de (H/H ∩ M) × C dans G/H par:F_{w}(h(H ∩ M), a) = hwaH. Il découle de [24], propositions 1.2 et 1.3 que:

F_{w} est un difféomorphisme sur son image qu’on note Ω_{w} qui est un ouvert de G/H. De plus il existe une constante positive, C_{G}, indépendante de C et de w, telle que pour tout φ ∈ C_{c}(Ω_{w}) on ait: ∫_{Ω_{w}} φ(gH)dġ = C_{G} ∫_{H/H∩M} ∫_{C} φ(hwaH)D_{w}(a)dadḣ où

D_{w}(a) = ∏_{α∈Δ^{+}} | a^{−α} − a^{α}t_{w}^{α} |^{m_{α}}, et m_{α} = dim 𝔤_{ℂ}^{α}.

Remarque 2. On voit grâce à (2.1) que F_{w} induit un difféomorphisme entre C et l’ouvert de A, wCH. Donc on peut choisir la mesure, db, sur wCH tel qu’on ait:

∫_{wCH} φ(b)db = ∫_{C} φ(waH)da.

3. Vecteurs distributions H -invariants de séries principales sphériques

Pour λ ∈ 𝔞_{ℂ}^{∗}, on note I_{λ} := {f: G → ℂ | f est C^{∞}et f(gman) = a^{−λ−ρ}f(g), ∀(g, m, a, n) ∈ G × M × A × N} et π_{λ} la représentation régulière gauche de G dans I_{λ}. On note I = E(K/K ∩ M). Si f ∈ I_{λ}, on notera f̃ sa restriction à K, qui est invariante à droite par K ∩ M. Cette dernière induit un isomorphisme de K -modules entre I_{λ} et I. Le dual de I_{λ}, (I_{λ})′, contient I_{−λ} (cf. [1], §3) et même C_{−λ} := {f: G → ℂ | fest continue etf(gman) = a^{λ−ρ}f(g), ∀(g, m, a, n) ∈ G × M × A × N} sur lequel agit G par représentation régulière gauche. De plus (π_{λ})′ laisse stable I_{−λ} et C_{−λ}, et coïncide sur I_{−λ} avec π_{−λ} et sur C_{−λ} avec l’action régulière gauche. De même (π_{λ})′ coïncide sur I avec π̃_{−λ}. Le transposé de l’opérateur I_{λ} → I (resp. I → I_{λ}) défini par f ↦ f̃ (resp. f ↦ f_{λ}) sera noté T ∈ I′ → T_{−λ} ∈ (I_{−λ})′ (resp. T ∈ (I_{λ})′ → T̃ ∈ I′), ces notation sont compatibles avec les identifications et notations antérieures.

Soit λ ∈ 𝔞_{ℂ}^{∗}, alors λ − ρ = ∑_{i=1}^{l} λ_{i}μ_{i} pour des λ_{i} ∈ ℂ. On suppose que pour tout

i = 1, …, l, ℜ(λ_{i}) > 0, c’est à dire ℜ(λ − ρ) est strictement Δ^{+}-dominant. On définit, pour w ∈ W ou W_{H} \ W, des fonctions, ξ_{λ}^{w}, sur G par:

ξ_{λ}^{w}(g) = ∏_{i=1}^{l} | ε_{i}(g) |^{λ_{i}} si g ∈ HwP,
= 0 sinon.

Il est clair que les fonctions ε_{i} sont continues et ne s’annulent pas sur les (H, P)- doubles classes ouvertes de G (cf. lemme 1 (iii) et [21], th.2.5), donc ξ_{λ}^{w} est continue. En outre les propriétés d’invariance des ε_{i} montrent que ξ_{λ}^{w} ∈ C_{−λ} ⊂ I′_{λ}. C’est un élément H -invariant de I′_{λ} sous π′_{λ} qui est propre sous l’action de U(𝔤)^{𝔥} (cf. [21], th.5.1). Sa restriction à K (où à K/K ∩ M) est une distribution notée ξ̃_{λ}^{w}. La fonction λ ↦ ξ̃_{λ}^{w}, définie pour λ ∈ 𝔞_{ℂ}^{∗} tel que ℜ(λ − ρ) est Δ^{+}-dominant et à valeurs dans D′(K/M ∩ K) = I′, s’étend en une fonction méromorphe (cf. [21], th 5.1). D’après [21], th. 5.1, les singularités sont situées sur une famille localement finie d’hyperplans de 𝔞_{ℂ}^{∗}. On notera de la même façon les prolongements méromorphes des ξ̃_{λ}^{w}. On désigne par ξ_{λ}^{w}, lorsque ξ̃_{λ}^{w} est défini, l’élément de I′_{λ} tel que (ξ_{λ}^{w})˜ = ξ̃_{λ}^{w}. On se fixe deux éléments, x et y, de W. Lorsque ξ_{λ}^{x} et ξ_{−λ}^{y} sont définis, pour tout φ ∈ D(G/H) on a π′_{λ}(φ)(ξ_{λ}^{x}) ∈ I_{−λ} et l’expression ⟨π′_{λ}(φ)ξ_{λ}^{x}, ξ_{−λ}^{y}⟩_{I_{−λ},I′_{−λ}} a un sens et permet de définir une distribution notée Θ_{λ}^{x,y,P} (ou plus simplement Θ_{λ}^{x,y} quand il n’y a pas d’ambiguïté) par

Θ_{λ}^{x,y}(φ) = ⟨π′_{λ}(φ)ξ_{λ}^{x}, ξ_{−λ}^{y}⟩_{I_{−λ},I′_{−λ}}

que nous nous proposons d’étudier.

On se donne une chambre de Weyl, C, de 𝔞 relativement à Δ et C := exp C. On reprend les notations de (2.1). On se donne ψ ∈ D(H/M ∩ H) et φ ∈ D(C). Grâce à (2.1), on définit une fonction Φ^{w}(ψ, φ) ∈ D(G/H), à support dans Ω_{w}(C), par:

Φ^{w}(ψ, φ)(hwaH) = ψ(h)φ(a) si h ∈ H, a ∈ C,
= 0 si gH ∉ Ω_{w}(C)

On se fixe X_{0} ∈ −C et on note a_{t} = exp tX_{0}, t > 0. On définit pour t > 0, φ_{t} ∈ D(C) par:

∀a ∈ C, φ_{t}(a) = φ(aa_{t}) si aa_{t} ∈ C,
= 0 sinon.

On pose: Φ_{t}^{w} := Φ^{w}(ψ, φ_{t}).

Si z ∈ W, pour i = 1, …, l, on note η_{i,z}, la fonction définie sur G par:

∀g ∈ G, η_{i,z}(g) = (π_{i}(g)v_{i}, π_{i}(z)v_{i})

qui est continue. On rappelle que λ − ρ = ∑_{i=1}^{l} λ_{i}μ_{i}. Alors pour ℜ(λ − ρ) Δ^{+}-

dominant la fonction η_{λ,z} sur G définie par:

∀g ∈ G, η_{λ,z}(g) = ∏_{i=1}^{l} | η_{i,z}(g) |^{λ_{i}},

est un élément de C_{−λ} ⊂ I′_{λ}. On a un théorème analogue au théorème 1 de [7]:

Théorème 1. On se fixe w, x et z ∈ W. On suppose que C = −zC_{P}. Soient X_{0} ∈ −C et a_{t} = exp tX_{0}. Soient ψ ∈ D(H/H ∩ M), φ ∈ D(C). Pour λ tel que ℜ(λ − ρ) est strictement Δ^{+}- dominant on a (avec les notations du §2 et du §3:

lim_{t→+∞} a_{t}^{−z(λ+ρ)}π′_{λ}(Φ_{t}^{w}(ψ, φ))ξ_{λ}^{x} = C_{G}u_{λ,z}^{w, x}

avec

u_{λ,z}^{w, x} = \{ \begin{matrix}∫_{H/H∩M} ∫_{C} ψ(ḣ)φ(a)a^{−2zρ}π′_{λ}(hwa)η_{λ,z}dḣda & si zx^{−1} ∈ W_{H}, \\ 0 & sinon. \end{matrix}

Les convergences ont lieu dans I_{−λ}.

Le schéma de la démonstration de ce théorème est le même que celui du théorème 1 de [7], on va appliquer le lemme 3 de [7] à:

f_{t} = (a_{t}^{−z(λ+ρ)}π′_{λ}(Φ_{t}^{w}(ψ, φ))ξ_{λ}^{x})˜ ∈ I.

On note A^{reg} := {expX : X ∈ 𝔞, ∀α ∈ Δ, α(X) ≠ 0} et R_{z} l’algèbre à élément unité des fonctions sur A^{reg}, engendrée par les fonctions (1 − ua^{2α})^{−1}, a^{α} où α ∈ zΔ^{+} et u ∈ ℂ avec | u |= 1. Comme M ∩H n’est pas compact, il nous faut être plus précis que dans [7], preuve de la proposition 4.

Lemme 3. (i) Soient ( Z_{1}, …, Z_{s}) une base de 𝔥 et (V_{1}, …, V_{r}) une base de 𝔪^{⊥} ∩ 𝔥_{w} où 𝔥_{w} = Ad(w^{−1})𝔥. Soient X ∈ 𝔤 et Y sa projection dans 𝔞 relativement à la décomposition 𝔤 = 𝔥_{w} ⊕ 𝔞 ⊕ 𝔫_{z} où 𝔫_{z} := Ad(z)(𝔫). Alors il existe τ_{1}, …, τ_{r}, ν_{1}, …, ν_{s} ∈ R_{z} tels que:

∀a ∈ A^{reg}, X = ∑_{i=1}^{r} τ_{i}(a)V_{i} + ∑_{j=1}^{s} ν_{j}(a) Ad(a)(Z_{j}) + Y.

(ii) Pour tout a élément de A^{reg} on a:

𝔤 = (𝔪^{⊥} ∩ 𝔥_{w}) ⊕ 𝔞 ⊕ Ad(a)𝔥

Démonstration.

(i) On a 𝔤 = 𝔥_{w} ⊕ 𝔞 ⊕ 𝔫_{z} et 𝔤_{ℂ} = (𝔥_{w})_{ℂ} ⊕ 𝔞_{ℂ} ⊕ 𝔫_{zℂ}. De plus 𝔪 est inclus dans 𝔥_{w}. Il est clair que (i) est vérifié si X ∈ 𝔞. Si X ∈ 𝔥_{w}, il s’ecrit X = X_{1} + X_{2} où X_{1} ∈ 𝔪^{⊥} ∩ 𝔥_{w} et X_{2} ∈ 𝔪 ⊂ 𝔥. Par linéarité et en complexifiant, il reste à démontrer (i) pour X ∈ 𝔤_{ℂ}^{α} où α décrit les éléments de zΔ^{+}(𝔤_{ℂ}, ȷ_{ℂ}) où z est un représentant de z qui normalise 𝔧_{ℂ}. On note σ′ := Ad(w^{−1}) ∘ σ ∘ Ad(w). C’est une involution de 𝔤 dont l’ensemble des points fixes est 𝔥_{w}. Si X ∈ 𝔤 on a:

σ′(X) = Ad(w^{−1})(σ(Ad(w)X))
= Ad(w^{−1})(Ad(σ(w))σ(X))
= Ad(t_{w}^{−1})σ(X).

En particulier si X ∈ 𝔤_{ℂ}^{α}, comme σ(X) est un élément de 𝔤_{ℂ}^{σα}, on a:

σ′(X) = t_{w}^{−σα}σ(X).

Mais, d’après le lemme 1 (i), t_{w} = t_{w}^{−1} ∈ H, donc:

σ′(X) = t_{w}^{α}σ(X).

Posons Z = X + σ(X) ∈ 𝔥_{ℂ} et V = X + σ′(X) ∈ (𝔥_{w})_{ℂ}, alors

Ad(a)Z = a^{α}X + a^{−α}σ(X)

et

V = X + t_{w}^{α}σ(X),

donc

X = \frac{1}{1 − t_{w}^{α}a^{2α}} V − \frac{t_{w}^{α}a^{α}}{1 − t_{w}^{α}a^{2α}} Ad(a)Z.

Or d’après le lemme 1 (i) t_{w}^{2} = e, donc (t_{w}^{α})^{2} = 1. En décomposant V dans la base (V_{i}) et Z dans la base (Z_{j}), on obtient (i). (ii) On a d’après (i), 𝔤 = (𝔪^{⊥} ∩ 𝔥_{w}) + 𝔞 + Ad(a)𝔥. Montrons que cette somme est directe. En effet il suffit de montrer que les deux membres ont même dimension. Comme w normalise 𝔪^{⊥}, 𝔪^{⊥} ∩ 𝔥_{w} = Ad(w)(𝔪^{⊥} ∩ 𝔥). De plus, si pour chaque α ∈ Δ_{∗j}^{+} (cf. §2.1), on choisit un élément non nul X_{α} ∈ 𝔤^{α}, et si on note Y_{α} = X_{α} + σ(X_{α}), la famille d’éléments (Y_{α})_{α∈Δ_{∗j}^{+}} forme une base de (𝔪^{⊥} ∩ 𝔥)_{ℂ}. Il en résulte que dim 𝔪^{⊥} ∩ 𝔥 = dim 𝔫. Ceci joint à l’égalité 𝔤 = 𝔥 ⊕ 𝔞 ⊕ 𝔫 donne:

dim 𝔤 = dim(𝔪^{⊥} ∩ 𝔥_{w}) + dim 𝔞 + dim Ad(a)𝔥.

Ceci achève la démonstration du lemme.

Proposition 2. Avec les notations du §3.2, si D ∈ U(𝔤), il existe p ∈ ℕ^{∗}, U_{1}, …, U_{p} ∈ U(𝔥), Y_{1}, …, Y_{p} ∈ U(𝔞), ψ_{1}, …, ψ_{p} ∈ D(H/H ∩ M), φ_{1}, …, φ_{p} ∈ R_{z} tels que:

∀ψ ∈ D(H/H ∩ M), ∀φ ∈ D(C),

L_{D}Φ^{w}(ψ, φ) = ∑_{i=1}^{p} Φ^{w}(ψ_{i}(L_{U_{i}}ψ), φ_{i}(L_{Y_{i}}φ)).

Démonstration. Un argument de récurrence sur le degré de D et le lemme 3 de [7], montre qu’il suffit de démontrer la proposition pour D ∈ 𝔤. Soit X ∈ 𝔤. Il est clair que L_{X}Φ^{w}(ψ, φ) est nulle en dehors de Ω_{w}(C). Soient (X_{1}, …, X_{l}) une base de 𝔞 et (X_{l+1}, …, X_{n}) une base de 𝔥_{w} ⊕ (Ad(z))𝔫, alors pour tout i ∈ {1, …, n}, il existe ν_{1}, …, ν_{n} ∈ E(H) tels que pour tout h ∈ H

Ad((hw)^{−1})X = ∑_{i=1}^{l} ν_{i}(h)X_{i} + ∑_{i=l+1}^{n} ν_{i}(h)X_{i}.

On se fixe une base (V_{1}, …, V_{r}) de 𝔪^{⊥} ∩ 𝔥_{w}, comme dans le lemme 2, et en appliquant ce dernier aux X_{i}, on en déduit qu’il existe φ_{i, j} ∈ R_{z} tels que:

∀a ∈ A^{reg}, ∀h ∈ H, Ad((hw)^{−1})X = V (h, a) + Y (h) + Ad(a)Z(h, a),

où

V (h, a) := ∑_{i=l+1}^{n} ∑_{j=1}^{r} ν_{i}(h)φ_{i, j}(a)V_{j} ∈ 𝔪_{ℂ}^{⊥} ∩ 𝔥_{wℂ},

Y (h) := ∑_{i=1}^{l} ν_{i}(h)X_{i} ∈ 𝔞_{ℂ},

Z(h, a) ∈ 𝔥_{ℂ}.

Mais comme Ad((hw)^{−1})X ∈ 𝔤, on a, d’après le lemme 2 (ii):

V (h, a) := ∑_{i=l+1}^{n} ∑_{j=1}^{r} ν_{i}(h)φ_{i, j}(a)V_{j} ∈ 𝔪^{⊥} ∩ 𝔥_{w},

Y (h) := ∑_{i=1}^{l} ν_{i}(h)X_{i} ∈ 𝔞,  (3.1)

Z(h, a) ∈ 𝔥.

Pour tout m ∈ H ∩ M, on a alors:

Ad((hmw)^{−1})X = V (hm, a) + Y (hm) + Ad(a)Z(hm, a).  (3.2)

Mais Ad((hmw)^{−1})X = Ad(w^{−1}m^{−1}w)(V (h, a) + Y (h) + Ad(a)Z(h, a)). Or w normalise H ∩ M et w^{−1}mw commute à a (cf. lemme 1 (ii)). Donc:

Ad(w^{−1}m^{−1}w)V (h, a) ∈ Ad(w^{−1}m^{−1}w)(𝔪^{⊥} ∩ 𝔥_{w}) = 𝔪^{⊥} ∩ 𝔥_{w}
Ad(w^{−1}m^{−1}w)Y (h) = Y (h) ∈ 𝔞  (3.3)

Ad(w^{−1}m^{−1}w) Ad(a)Z(h, a) = Ad(a)(Ad(w^{−1}m^{−1}w)Z(h, a)) ∈ Ad(a)(𝔥).

Il découle de (3.1), (3.2) et (3.3) et du lemme 2 (ii) que:

Ad(hmw)V (hm, a) = Ad(hw)V (h, a)
Y (hm) = Y (h)  (3.4)
Z(hm, a) = Ad(w^{−1}m^{−1}w)Z(h, a).

Comme Z(h, a) ∈ 𝔥 et Φ^{w} est invariante à droite par H on a:

L_{Ad(hwa)Z(h, a)}Φ^{w}(hwaH) = 0,

et par conséquent on obtient:

L_{X}Φ^{w}(hwaH) = L_{Ad(hw)V (h,a)}Φ^{w}(hwaH) + ψ(h)L_{Y (h,a)}φ(a).  (3.5)

Soit (ϕ_{k}) une base de R_{z}, alors l’expression de V (h, a) dans (3.1) devient:

V (h, a) = ∑_{i=1}^{r} ∑_{k∈I} ψ_{i, k}(h)ϕ_{k}(a)V_{i}  (3.6)

où les ψ_{i, k} sont des éléments de E(H) et I est un ensemble fini. Or pour tout i = 1, …, r, Ad(hw)V_{i} est élément de 𝔥. Ecrivant Ad(hw)V_{i} dans la base (Z_{i}), on déduit de (3.6) qu’il existe des fonctions, ψ̃_{u, k}, éléments de E(H) telles que:

Ad(hw)V (h, a) = ∑_{u=1}^{dim 𝔥} ∑_{k∈I} ψ̃_{u, k}(h)ϕ_{k}(a)Z_{u}.  (3.7)

Comme (Z_{i}) est une base de 𝔥, il résulte de (3.4) et (3.7) que pour tout i = 1, …, dim 𝔥, et pour tout m ∈ H ∩ M et a ∈ A^{reg} on a :

∑_{k∈I} ψ̃_{i, k}(hm)ϕ_{k}(a) = ∑_{k∈I} ψ̃_{i, k}(h)ϕ_{k}(a).

Mais (ϕ_{k}) est une base de R_{z}. On en déduit que les fonctions ψ̃_{i, l} sont invariantes à droite par H ∩ M. De même, comme (Y_{i}) est une base de 𝔞, il découle de (3.1) et (3.4) que les fonctions ν_{i}, i = 1, …, l, sont invariantes à droite par H ∩ M. Donc ceci joint à (3.7) montre que (3.5) peut s’écrire sous la forme voulue:

L_{X}Φ^{w}(hwaH) = ∑_{u=1}^{p} Φ^{w}(ψ_{u}(L_{Z′_{u}}ψ), φ_{u}(L_{Y′_{u}}φ))(hwaH)

avec p ∈ ℕ^{∗}, ψ_{u} ∈ E(H/H ∩ M), φ_{u} ∈ R_{z}, Z′_{u} ∈ 𝔥 et Y′_{u} ∈ 𝔞. La proposition en résulte.

On note N̄ := θ(N).

Lemme 4. On rappelle que z ∈ W, X_{0} ∈ zC_{P} et a_{t} := exp(tX_{0}). Soit u ∈ N_{K}(𝔞). Si g est un élément de G tel que g = zn̄uman, avec n̄ ∈ θ(N), u ∈ N_{K}(𝔞), m ∈ M, a ∈ A et n ∈ N, il existe t_{0} ≥ 0 tel que pour tout t ≥ t_{0}, a_{t}g ∈ HzuP.

Démonstration. On pose X′_{0} := z^{−1}X_{0} ∈ C_{P} et a′_{t} := exp(tX′_{0}). Si g est comme dans l’énoncé, on a: a_{t}g = za′_{t}n̄a′_{−t}u(u^{−1}a′_{t}u)man. Comme u^{−1}a′_{t}u est élément de A on a: a_{t}g ∈ za′_{t}n̄a′_{−t}uP. Puisque X_{0} ∈ C_{P}, a′_{t}n̄a′_{−t} tend vers e lorsque t tend vers +∞. Donc on a:

lim_{t→+∞} za′_{t}n̄a′_{−t}u = zu.  (3.8)

Mais HzuP est un ouvert de G/P contenant zuP, donc il existe t_{0} ≥ 0 tel que pour tout t ≥ t_{0}, za′_{t}n̄a′_{−t} ∈ HzuP, donc a_{t}g ∈ HzuP.

Le fait suivant est immédiat: Si u ∈ N_{K}(𝔞) alors pour tout i ∈ {1, …, l} on a:

uμ_{i}(z^{−1}X_{0}) ≤ μ_{i}(z^{−1}X_{0}).  (3.9)

Si de plus u ∉ M, il existe p ∈ {1, …, l} tel que:

uμ_{p}(z^{−1}X_{0}) < μ_{p}(z^{−1}X_{0}).

Lemme 5. Pour tout i ∈ {1, …, l}, il existe C_{i} > 0 tel que:

∀g ∈ G, ∀t ≥ 0, |a_{t}^{−zμ_{i}}ε_{i}(a_{t}g)| ≤ C_{i} ∥ π_{i}(g)v_{i} ∥

Démonstration. Pour tout i ∈ {1, …, l}, u_{i} s’écrit ∑_{α∈J_{i}} v_{α} où J_{i} est une famille

finie d’éléments de 𝔞^{∗} et v_{α} sont des vecteurs non nuls de poids α. En utilisant la définition de ε_{i} et du produit scalaire sur V_{i} (voir §2.2) on a

a_{t}^{−zμ_{i}}ε_{i}(a_{t}g) = a_{t}^{−zμ_{i}}(π_{i}(a_{t}g)v_{i}, u_{i}) = a_{t}^{−zμ_{i}} ∑_{α∈J_{i}} a_{t}^{α}(π_{i}(g)v_{i}, v_{α}),

d’où on en déduit:

| a_{t}^{−zμ_{i}}ε_{i}(a_{t}g) |≤ ∑_{α∈J_{i}} a_{t}^{α−zμ_{i}} ∥ π_{i}(g)v_{i} ∥∥ v_{α} ∥  (3.10)

Comme z^{−1}X_{0} ∈ C_{P} et tout poids z^{−1}α de π_{i} est de la forme z^{−1}α = μ_{i} − ∑_{β∈Δ^{+}} n_{β}β où n_{β} ∈ ℕ, on a a_{t}^{α−zμ_{i}} ≤ 1. Cela et (3.9) donnent:

| a_{t}^{−zμ_{i}}ε_{i}(a_{t}g) |≤ ( ∑_{α∈J_{i}} ∥ v_{α} ∥) ∥ π_{i}(g)v_{i} ∥  (3.11)

On pose C_{i} = ∑_{α∈J_{i}} ∥ v_{α} ∥ et le lemme en résulte.

Lemme 6. On conserve les hypothèses du théorème 1.

(i) Pour tout g ∈ G on a:

lim_{t→+∞} a_{t}^{−z(λ−ρ)}(π′_{λ}(a_{−t})ξ_{λ}^{x})(g) = \{ \begin{matrix}η_{λ,z}(g) & si xz^{−1} ∈ W_{H}, \\ 0 & sinon. \end{matrix}

(ii) Si B est un sous-ensemble compact de G, il existe une constante C_{B}, strictement positive, tel que:

∀b ∈ B, ∀t > 0, | a_{t}^{−z(λ−ρ)}(π′_{λ}(a_{−t})ξ_{λ}^{x})(b) |≤ C_{B}.

Démonstration. (i) On a: G = ⋃_{w∈N_{K}(𝔞)} NwP. En translatant à gauche par zw_{0} et en utilisant w_{0}Nw_{0}^{−1} = θ(N), on en déduit que: G = ⋃_{u∈N_{K}(𝔞)} zθ(N)uP. Donc pour g ∈ G, il existe n̄ ∈ θ(N), m ∈ M, a ∈ A, n ∈ N et u ∈ N_{K}(𝔞) tels que g = zn̄uman. On note X′_{0} := z^{−1}X ∈ C_{P} et a′_{t} := exp tX′_{0} comme dans la démonstration du lemme 3. Alors notant g′_{t} := za′_{t}n̄a′_{−t}u, on a:

a_{t}g = g′_{t}(u^{−1}a′_{t}u)man

et, pour i = 1, …, l, on voit, grâce aux propriétés de ε_{i}, que:

ε_{i}(a_{t}g) = a^{μ_{i}}a_{t}^{zuμ_{i}}ε(g′_{t}).

Mais d’après (3.8), g′_{t} tend vers zu quand t tend vers +∞. Comme ε_{i}(zu) ≠ 0 (cf. lemme 2 (iii), il découle des propriétés des ε_{i} rappelées au début de §2 :

ε_{i}(a_{t}g) ∼ a^{μ_{i}}a_{t}^{zuμ_{i}}ε_{i}(zu) quand t → +∞.  (3.12)

En utilisant la définition de ξ_{λ}^{x} on a:

a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(g) = ∏_{i=1}^{l} | a_{t}^{−zμ_{i}}ε_{i}(a_{t}g) |^{λ_{i}} 1_{HxP} (a_{t}g)  (3.13)

Comme pour t assez grand, a_{t}g ∈ HzuP (voir lemme 3), ceci donne:

si HzuP ≠ HxP, lim_{t→+∞} a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(g) = 0.  (3.14)

On rappelle que d’après (3.9) on a, pour tout i ∈ {1, …, l} et u ∈ N_{K}(𝔞):

zμ_{i}(X_{0}) − zuμ_{i}(X_{0}) ≥ 0,

et si u ∉ M, il existe p tel que:

zμ_{p}(X_{0}) − zuμ_{p}(X_{0}) > 0.

Mais si xz^{−1} ∉ W_{H} et HzuP = HxP on a u ∉ M. D’où on déduit de (3.10) et (3.11) que dans ce cas:

lim_{t→+∞} a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(g) = 0.

Ceci joint à (3.12) montre que:

lim_{t→+∞} a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(g) = 0 si xz^{−1} ∉ W_{H}.

On suppose maintenant que xz^{−1} ∈ W_{H}. Alors si u ∉ M, il découle de (3.9), (3.10) et (3.11):

lim_{t→+∞} a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(g) = 0.

Mais d’après la définition de η_{λ, z} (cf. début de 3.3), on voit facilement que:

η_{λ, z}(zn̄uman) = ∏_{i=1}^{l} a^{λ_{i}μ_{i}}η_{i, e}(u).

Or η_{i, e}(u) = (π_{i}(u)v_{i}, v_{i}) et u ∉ M, d’où il existe, d’après (3.9), p ∈ {1, …, p} tel que uμ_{p} < μ_{p}, auquel cas η_{p,e}(u) = 0 (voir notre choix du produit scalaire §2). Donc η_{λ, z}(g) = 0 comme désiré. Il reste à étudier le cas où u ∈ M. Dans ce cas, d’après (3.10), (3.11) et le lemme 1 (iii), on a:

lim_{t→+∞} a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(g) = ∏_{i=1}^{l} a^{λ_{i}μ_{i}}.

Comme v_{i} est M -invariant, il est clair que si u ∈ M on a η_{i, z}(zn̄uman) = a^{μ_{i}} et η_{λ, z}(g) est bien égal au second membre de l’égalité ci-dessus. Ceci achève la démonstration de (i).

(ii) On a a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(b) = ∏_{i=1}^{l} | a_{t}^{−zμ_{i}}ε_{i}(a_{t}b) |^{λ_{i}} 1_{HxP} (a_{t}b), d’où on déduit du

lemme 4 qu’il existe C > 0 tel que pour tout t > 0 et pour tout b ∈ B on a:

| a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(b) |≤ C ∏_{i=1}^{i} ∥ π_{i}(b)v_{i} ∥^{Re(λ_{i})},

Or B est compact, d’où il résulte de la continuité des π_{i} qu’il existe C_{B} > 0 tel que pour tout t > 0 et pour tout b ∈ B:

| a_{t}^{−z(λ−ρ)}π′_{λ}(a_{−t})ξ_{λ}^{x}(b) |≤ C_{B}.

Corollaire du lemme 5. (i) ∃C_{φ, ψ} > 0, ∀k ∈ K, ∀h ∈ supp ψ, ∀a ∈ supp φ, ∀t > 0,

| a_{t}^{−z(λ−ρ)}(π′_{λ}(hwaa_{−t})ξ_{λ}^{x})(k) |≤ C_{φ, ψ}.

(ii) ∀k ∈ K, ∀h ∈ supp ψ, ∀a ∈ supp φ on a:

lim_{t→+∞} a_{t}^{−z(λ−ρ)}(π′_{λ}(hwaa_{−t})ξ_{λ}^{x})(k) = \{ \begin{matrix}0 & si xz^{−1} ∉ W_{H}, \\ (π′_{λ}(hwa)η_{λ, z})(k) & si xz^{−1} ∈ W_{H}. \end{matrix}

Démonstration. La démonstration est analogue à celle du lemme 7 de [7].

Lemme 7. (i) Si μ est un élément de R_{z}, la famille de fonctions a ↦ μ(aa_{−t}) converge simplement sur C quand t tend vers +∞. De plus, il existe C_{μ, φ} > 0 tel que:

∀a ∈ supp φ, ∀t > 0, | μ(aa_{−t}) |≤ C_{μ, φ}.

(ii) Pour tout a ∈ C, avec les notations du §2.4, on a:

lim_{t→+∞} a_{t}^{−2zρ}D_{w}(aa_{−t}) = a^{−2zρ}.

(iii) ∃C_{w, φ} > 0 tel que:
∀a ∈ supp φ, ∀t > 0, | a_{t}^{−2zρ}D_{w}(aa_{−t}) |≤ C_{w, φ}.

Démonstration. La démonstration est analogue à celle du lemme 8 de [7].

On procède de la même façon que la fin de démonstration du théorème 1 de [7], p. 326, en utilisant les lemmes 5 et 6 au lieu des lemmes 7 et 8 de [7], pour terminer la démonstration du théorème 1.

4. Intégrales d’entrelacement

On rappelle que P est un sous-groupe parabolique σθ-stable minimal et P = MAN est sa σ-décomposition de Langlands. Si w ∈ N_{K}(𝔞) on normalise la mesure de Haar de N̄ ∩ w^{−1}Nw comme dans [18], §2. Cette mesure sera notée dv. On note S(w) := Δ^{+} ∩ (−w^{−1}Δ^{+}). On sait qu’il existe une constante c telle que si on note :

D(w) := {λ ∈ 𝔞_{ℂ}^{∗} : ∀α ∈ S(w), ℜe(λ, α) > c},

pour tout λ ∈ D(w), x ∈ G, et f ∈ I_{λ} l’intégrale ∫_{N̄∩w^{−1}Nw} f(xwv)dv converge absolument. La relation

A(w, λ)(f)(x) = ∫_{N̄∩w^{−1}Nw} f(xwv)dv

définit un élément A(w, λ)(f) de I_{wλ}. De plus, l’opérateur A(w, λ) ainsi défini, entrelace les représentations π_{λ} et π_{wλ} de G, d’où le nom d’intégrale d’entrelacement qui lui est donné (cf. [18], formules 1.7, 1.9 et [27], lemme 10.1.2), voir aussi [6], proposition 1. On désigne par A′(w, λ) le transposé de A(w, λ).

Remarque 3. Comme les éléments de I_{λ} sont invariants à droite par M, les intégrales d’entrelacement ne dépendent que de la classe de w dans W. On rappelle que les intégrales d’entrelacement vérifient des propriétés de dualité et l’on a d’après (cf. [18], prop.7.8(iii)) et la continuité des A:

A′(w, λ) |_{I_{−wλ}}= A(w^{−1}, −wλ).  (4.1)

Rappelons que l’on a un isomorphisme T → T̃ (resp. T → T_{−λ}) de (I_{λ}^{P})′ sur I′ = D′(K/K ∩ M) (voir §3).

Si w ∈ W on note δ_{w} ∈ D′(K/K ∩ M) la distribution de Dirac en w(K ∩ M). On notera δ_{w}^{λ} au lieu de (δ_{w})_{−λ}. Si w ∈ W et λ ∈ 𝔞′_{ℂ} tel que ℜe(λ − ρ) est strictement Δ^{+}-dominant on a:

A′(w_{0}, λ)δ_{zw_{0}}^{w_{0}λ} = η_{λ, z}.  (4.2)

La démonstration est identique à celle de ([7], lemme 11). En utilisant la propriété d’entrelacement de A′(w_{0}, λ) et la définition de u_{λ, z}^{w, x} (cf. théorème 1) on obtient:

u_{λ, z}^{w, x} = A′(w_{0}, λ)v_{λ, z}^{w,x}  (4.3)

où v_{λ, z}^{w,x} = ∫_{H/H∩M} ∫_{C} ψ(ḣ)φ(a)a^{−z(λ+ρ)}π′_{w_{0}λ}(hw)δ_{zw_{0}}^{w_{0}λ}dadḣ si zx^{−1} ∈ W_{H} et 0 sinon.

On rappelle qu’il existe une constante c_{0} tel que pour tout f ∈ L^{1}(K/K ∩ M) on a:

∫_{K/K∩M} f(k̇)dk̇ = c_{0} ∑_{y∈W_{H}\W} ∫_{H/H∩M} f(k(hy))a(hy)^{−2ρ}dḣ,  (4.4)

où k(h) (resp. a(h)) désigne la projection sur K (resp. A) par rapport à la décomposition G = K exp(𝔪 ∩ 𝔭)AN (cf. [21], lemme 1.3). Alors v_{λ, z}^{w, x} est un élément de I_{−w_{0}λ} et si zx^{−1} ∈ W_{H} on a:

v_{λ, z}^{w, x}(hwzw_{0}) = \frac{1}{c_{0}} (∫_{C} φ(a)a^{−z(λ+ρ)}da)ψ(h) pour tout h ∈ H,

v_{λ, z}^{w,x}(g) = 0 si g ∉ Hwzw_{0}P  (4.5)

(la démonstration est identique à celle de [7], lemme 12). On se fixe W (cf. §2) et on note V := ℂ^{W}. Pour λ tel que ℜe(λ − ρ) est strictement Δ^{+}-dominant, on note:

j(λ) : V → I′_{λ}

(η_{w})_{w∈W} ↦ ∑_{w∈W} η_{w}ξ_{λ}^{w}.

Alors la fonction λ ↦ j(λ) ∈ Hom(V, D′(K/K ∩ M)), initialement définie pour λ tel que ℜe(λ − ρ) est strictement Δ^{+}-dominant, se prolonge en une fonction méromorphe sur 𝔞_{ℂ}^{∗} (cf. [1], th 5.10). On rappelle que pour tout w élément de W, il existe un endomorphisme de V, B(w^{−1}, λ), méromorphe en λ tel que l’on ait l’identité de fonctions méromorphes sur 𝔞_{ℂ}^{∗} :

A′(w, λ)j(wλ) = j(λ)B(w^{−1}, wλ)  (4.6)

(cf. [1], proposition 6.1). Pour tout x ∈ W, on désigne par x̄ son représentant dans W. En écrivant B(w^{−1}, wλ) dans la base canonique de ℂ^{W}, on a alors:

∀x ∈ W, A′(w, λ)ξ_{wλ}^{x} = ∑_{y∈W} B_{y, x̄}(w^{−1}, wλ)ξ_{λ}^{y}.  (4.7)

On se place en un point λ où toutes les fonctions méromorphes qui interviendront sont définies. Alors pour tout u, v ∈ W tels que l(uv) = l(u) + l(v), où l(u) est la longueur de u relativement à Δ^{+}, on a:

A′(v, λ)A′(u, vλ) = A′(uv, λ)  (4.8)

ceci par tranposition des propriétés des intégrales d’entrelacement (cf. [18], prop. 7.8). Pour un tel λ et pour tout w élément de W on a aussi:

A(w^{−1}, wλ)A(w, λ) = η_{w}(λ)Id  (4.9)

où η_{w}(.) est une fonction méromorphe à valeurs dans ℂ (cf. [18], proposition 7.3). En utilisant (4.6) et (4.8), on en déduit que: Pour tout u, v ∈ W tels que l(uv)= l(u)+l(v) on a l’égalité de fonctions méromorphes en λ:

B(u, vλ)B(v, λ) = B(uv, λ).  (4.10)

De même (4.6) et (4.9) donnent: Pour un tel λ et pour tout w élément de W on a:

B(w^{−1}, wλ)B(w, λ) = η_{w}(λ)Id.  (4.11)

D’après [6], prop. 7:

B est holomorphe en dehors d′une famille
localement finie d′hyperplans.  (4.12)

5. Etude des restrictions des distributions Θ_{λ}^{x, y} à HA^{reg}wH

On note 𝔤^{d} = (𝔨 ∩ 𝔥) ⊕ i(𝔨 ∩ 𝔮) ⊕ i(𝔭 ∩ 𝔥) ⊕ (𝔭 ∩ 𝔮) le dual riemannien de 𝔤. On a une décomposition de Cartan 𝔤^{d} = 𝔨^{d} ⊕ 𝔭^{d} où 𝔨^{d} = (𝔨 ∩ 𝔥) ⊕ i(𝔭 ∩ 𝔥) et 𝔭^{d} = i(𝔨 ∩ 𝔮) ⊕ (𝔭 ∩ 𝔮). On note G^{d} (resp. K^{d}) le sous-groupe analytique de G_{ℂ} d’algèbre de Lie 𝔤^{d} (resp. 𝔨^{d}). Alors 𝔞 est un sous-espace abélien maximal dans 𝔭^{d}. Comme 𝔤_{ℂ}^{d} = 𝔤_{ℂ}, le système de racines de 𝔞 dans 𝔤^{d} est égal à Δ := Δ(𝔤, 𝔞) et son groupe de Weyl est égal à W. Le lemme suivant est standard (cf. [28], ch. 1, lemme 6.A).

Lemme 8. Si E est un espace vectoriel complexe de dimension finie et {H_{i}}_{i∈I} est une famille localement finie d’hyperplans alors E \ (⋃_{i∈I} H_{i}) est un ouvert dense

et connexe par arc dans E.

On se fixe des éléments x, y, w et z de W. On note aussi, w, un représentant de w dans N_{K}(𝔞) et C_{z} = exp(−zC_{P}). On note L le semi-groupe additif engendré par Σ et L^{+} := L \ {0}. On pose

∗𝔞_{ℂ} := 𝔞_{ℂ}^{∗} \ ( ⋃_{k∈W, μ∈L^{+}} kσ_{μ} ∪ ⋃_{s, t∈W, ν∈L^{+}} τ_{ν}(s, t)),

où

σ_{μ} := \{λ ∈ 𝔞_{ℂ}^{∗} : (λ, μ) = \frac{1}{2}(μ, μ)\} et τ_{ν}(s, t) := \{λ ∈ 𝔞_{ℂ}^{∗} | sλ − tλ = ν\}.

On désigne par (𝔞_{ℂ}^{∗})^{reg}, l’ensemble des éléments réguliers de 𝔞_{ℂ}^{∗}, c’est à dire (𝔞_{ℂ}^{∗})^{reg} := {λ ∈ 𝔞_{ℂ}^{∗} : (λ, α) ≠ 0 ∀α ∈ Δ}. Soit, H, une famille localement finie d’hyperplans en dehors de laquelle ξ_{λ}^{x} et ξ_{−λ}^{y} sont holomorphes (cf. [21], th. 5.1). On note ^{∗}𝔞_{ℂ}^{reg}(x, y) l’intersection du complémentaire de H avec ^{∗}𝔞_{ℂ}(x, y)∩(𝔞_{ℂ}^{∗})^{reg}. Comme la famille {kσ_{μ}, τ(s, t)}_{k, s, t∈W} } est une famille localement finie d’hyperplans (cf. [11], p. 150), ^{∗}𝔞_{ℂ}^{reg}(x, y) est le complémentaire dans 𝔞_{ℂ}^{∗} d’une famille localement finie d’hyperplans. Donc d’après le lemme précédent ^{∗}𝔞_{ℂ}^{reg}(x, y) est un ouvert dense et connexe. On note 𝔻(G/H) l’algèbre des opérateurs différentiels G-invariants sur G/H. Si T est une distribution H -invariante de D′(G/H) telle que pour tout D ∈ 𝔻(G/H) on ait:

DT = γ(D)(−λ)T

où λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y) et γ est l’homomorphisme de Harish-Chandra de G/H relatif à 𝔞 (qui est maximal abélien dans 𝔭^{d} puisque G/H est déployé), alors T est une fonction analytique sur l’ensemble des éléments réguliers de G/H (cf. [12], th. 4.2 ou [24], th. 10.5). On a 𝔻(G/H) ≃ U(𝔤)^{𝔥}/(U(𝔤)𝔥 ∩ U(𝔤)^{𝔥}) (cf. [1], lemme 2.1). Comme 𝔤_{ℂ} (resp. 𝔥_{ℂ}) est le complexifié de 𝔤^{d} (resp. 𝔨^{d}) et 𝔤 (resp. 𝔥), on a aussi 𝔻(G^{d}/K^{d}) ≃ U(𝔤)^{𝔥}/(U(𝔤)𝔥 ∩ U(𝔤)^{𝔥}). Donc 𝔻(G^{d}/K^{d}) ≃ 𝔻(G/H). Pour tout D ∈ 𝔻(G/H), on notera D^{d}, l’élément de 𝔻(G^{d}/K^{d}) qui lui correspond dans cet isomorphisme et D_{ℂ} (resp. D_{ℂ}^{d}) l’opérateur différentiel analytique complexe sur G_{ℂ}/H_{ℂ} défini à partir de D (resp. D^{d}). L’opérateur D_{ℂ} est construit comme suit: on prend un élément \underline{D} ∈ U(𝔤)^{𝔥} tel que D = R\underline{D}. Alors R\underline{D} agit comme un opérateur différentiel analytique complexe sur le faisceau des fonctions holomorphes sur G_{ℂ}/H_{ℂ} et on prend D_{ℂ} égal à cet opérateur (il ne dépend pas du choix de \underline{D}). On fait de même pour D^{d}. Clairement on a:

D_{ℂ} = D_{ℂ}^{d}.

Le fait que 𝔞 est un sous-espace abélien maximal dans 𝔮 et dans 𝔭^{d} montre que pour tout D ∈ 𝔻(G/H) on a :

γ(D) = γ^{d}(D^{d})

où γ^{d} est l’homomorphisme de Harish-Chandra de G^{d}/K^{d} relatif à 𝔞 (cela peut être pris comme définition de γ). On désigne par A_{ℂ} (resp. A, A^{d}) le sous -ensemble de Cartan de G_{ℂ}/H_{ℂ} (resp. G/H, G^{d}/K^{d}) correspondant à 𝔞_{ℂ} (resp. 𝔞) (cf. début de §2.3). On note:

′A_{ℂ} := {gH_{ℂ} ∈ A_{ℂ} : det(1 − Ad(gσ(g)^{−1}))|_{[𝔞_{ℂ}, 𝔤_{ℂ}]} ≠ 0},
′A := {gH ∈ A : det(1 − Ad(gσ(g)^{−1}))|_{[𝔞,𝔤]} ≠ 0,
′A^{d} := {gK^{d} ∈ A^{d} : det(1 − Ad(gσ(g)^{−1}))|_{[𝔞,𝔤^{d}]} ≠ 0}.

On note M := {gσ(g^{−1}) : g ∈ G_{ℂ}}. On sait d’après [22], lemme 1, que M est une sous-variété fermée de G_{ℂ}. En outre, l’application φ, définie sur G_{ℂ}/H_{ℂ} à valeurs dans M par φ(gH_{ℂ}) = gσ(g^{−1}), est un difféomorphisme (cf. [22], §1). Comme φ(A_{ℂ}) = exp 𝔞_{ℂ} (cf. [22], lemme 8), l’espace tangent à A_{ℂ} s’identifie naturellement à 𝔞_{ℂ}, en associant à tout x ∈ A_{ℂ} et X ∈ 𝔞_{ℂ}, le vecteur tangent à la courbe t ↦ exp(tX)x. Ainsi, tout X ∈ 𝔞_{ℂ}, définit un champ de vecteurs holomorphe sur A_{ℂ}, et U(𝔞) s’identifie à une algèbre d’opérateurs différentiels analytiques complexes sur A_{ℂ}. Comme wH_{ℂ} est un élément de A_{ℂ}, il existe h ∈ H_{ℂ}, X, Y ∈ 𝔞 tels que w = exp(Y + iX)h. Mais φ(wH_{ℂ}) = t_{w^{−1}} est élément de exp(i𝔞) (cf. lemme 1). D’autre part, φ(wH_{ℂ}) = exp(2Y + 2iX). Donc on a exp 2Y ∈ exp i𝔞, soit encore Y = 0. Alors on a:

t_{w^{−1}} = exp(2iX)etw = exp(iX)h.  (5.1)

On sait d’après [12], p. 26 et 27, qu’il existe une application δ_{ℂ} de 𝔻(G/H) dans l’algèbre des opérateurs différentiels analytiques complexes sur ′A_{ℂ} telle que, pour tout D ∈ 𝔻(G/H), l’opérateur différentiel δ_{ℂ}(D) est une composante radiale de D_{ℂ} sur ′A_{ℂ}, et par restriction à ′A (resp. ′A^{d}), l’opérateur D_{ℂ} définit un opérateur analytique réel, δ(D) (resp. δ^{d}(D^{d})), qui est une composante radiale de D (resp. D^{d}) sur ′A (resp. ′A^{d}). On écrit abusivement, δ(D) = δ_{ℂ}(D)_{|′A} et δ^{d}(D^{d}) = δ_{ℂ}(D)_{|′A^{d}}. On garde les notations du §2.1, et on note 𝔞_{ℂ}^{reg} := {Z ∈ 𝔞_{ℂ} : ∀α ∈ Δ, α(Z) ≠ 0}. Comme l’application X ↦ exp(X)H_{ℂ} définie sur 𝔞_{ℂ} à valeurs dans A_{ℂ} est submersive et 𝔞_{ℂ}^{reg} est un ouvert de 𝔞_{ℂ}, exp(𝔞_{ℂ}^{reg})H_{ℂ} est un ouvert de A_{ℂ}. Comme exp(𝔞_{ℂ}^{reg})H_{ℂ} est inclus dans l’ouvert ′A_{ℂ}, exp(𝔞_{ℂ}^{reg})H_{ℂ} est un ouvert de ′A_{ℂ}. Pour α ∈ Δ, on définit l’application g_{α} sur exp(𝔞_{ℂ}^{reg})H_{ℂ} par:

g_{α}(b) = (φ(b)^{α} − 1)^{−1}.

En particulier, on a:

∀a ∈ C_{z}, g_{α}(awH_{ℂ}) = (t_{w^{−1}}^{α}a^{2α} − 1)^{−1}  (5.2)

On note R^{z} l’anneau des fonctions holomorphes sur exp(𝔞_{ℂ}^{reg})H_{ℂ} engendré par les g_{α}, α ∈ −zΔ^{+}. On va donner une expression de δ(D)_{|C_{z}wH} en fonction de γ(D) et des éléments de U(𝔞). Il découle du lemme 26 de [15], qu’il existe u_{i} ∈ U(𝔞) de degré strictement inférieur à celui de D, g_{i} ∈ R, i = 1, …, r, tels que:

∀D ∈ 𝔻(G/H), δ^{d}(D^{d})_{|C_{z}K^{d}} = e^{zρ} ∘ γ(D) ∘ e^{−zρ} + ∑_{1≤i≤r} e^{zρ} ∘ g_{i}u_{i} ∘ e^{−zρ} (5.3)

(ici on a noté de même g_{i} la restriction de g_{i} à C_{z}K^{d}). Si u ∈ U(𝔞), e^{zρ} ∘ u ∘ e^{−zρ} est encore élément de U(𝔞). Comme les éléments de R sont holomorphes sur exp(𝔞_{ℂ}^{reg})H_{ℂ}, qui est un ouvert connexe de ′A_{ℂ}, et δ_{ℂ}(D) est analytique complexe sur ′A_{ℂ}, on déduit de (5.3) que:

∀D ∈ 𝔻(G/H), δ_{ℂ}(D)_{| exp(𝔞_{ℂ}^{reg})H_{ℂ}} = e^{zρ} ∘ γ(D) ∘ e^{−zρ} + ∑_{1≤i≤r} g_{i}u′_{i},  (5.4)

où u′_{i} = e^{zρ} ∘ u_{i} ∘ e^{−zρ}. Comme C_{z}wH est un ouvert de ′A ∩ (exp(𝔞_{ℂ}^{reg})H_{ℂ}), on déduit de (5.4) que:

∀D ∈ 𝔻(G/H), δ(D)_{|C_{z}wH} = e^{−ρ} ∘ γ(D) ∘ e^{ρ} + ∑_{1≤i≤r} g̃_{i}u′_{i},  (5.5)

où g̃_{i} est la restriction de g_{i} à C_{z}wH. En particulier, si on note ω le Casimir de 𝔤 (vu comme élément de 𝔻(G/H)), on a d’après [11], prop. 4.2.1:

δ(ω)_{|C_{z}wH} = e^{zρ} ∘ γ(ω) ∘ e^{−zρ} + ∑_{α∈−zΔ^{+}} m_{α}g̃_{α}H_{α},  (5.6)

où H_{α} est l’élément de 𝔞 tel que pour tout X ∈ 𝔞, (H_{α}, X) = α(X), et m_{α} = dim 𝔤^{α}. On note

E(C_{z}w, λ) := {f ∈ E(C_{z}wH) : δ(D)f = γ(D)(λ)f, ∀D ∈ 𝔻(G/H)}.

Comme dans [11], prop. 4.1.8, en utilisant (5.5) d’une part et (5.6) (pour l’ellipticité de δ(ω)_{|C_{z}wH}) on voit que:

dim E(C_{z}w, λ) ≤ |W |.  (5.7)

On note 𝔞_{ℂ}ˇ (z) := 𝔞_{ℂ}^{∗} \ ⋃_{μ∈L^{+}} −zσ_{μ}. On introduit des fonctions rationnelles a_{μ},

μ ∈ L, sur 𝔞_{ℂ}^{∗} par la relation de récurrence: a_{0}(λ) = 1 et

((μ, μ) + 2(zμ, λ))a_{μ}(λ)
= −2 ∑_{{α∈−zΔ^{+} \atop k≥1,μ+2kz^{−1}α∈L}} t_{w^{−1}}^{kα}m_{α}(λ + zμ + 2kα + zρ, wα)a_{μ+2kz^{−1}α}(λ). (5.8)

Si μ = ∑_{i=1}^{l} n_{i}α_{i} (n_{i} ∈ ℕ et α_{i} ∈ Σ), on pose m(μ) := ∑_{i=1}^{l} n_{i}.

Proposition 3. Pour λ ∈ 𝔞_{ℂ}ˇ (z), a ∈ C_{z}, on note formellement:

Φ(C_{z}w, λ, awH) = a^{λ+zρ}(1 + ∑_{μ∈L^{+}} a_{μ}(λ)a^{zμ}).

(i) Pour tout sous-ensemble compact de 𝔞_{ℂ}ˇ (z), Λ, il existe C > 0 et d ≥ 0 tels que:

∀μ ∈ L^{+}, ∀λ ∈ Λ, |a_{μ}(λ)| ≤ Cm(μ)^{d}.

(ii) la série Φ(C_{z}w, λ, awH) est absolument convergente pour λ ∈ 𝔞_{ℂ}ˇ (z) et a ∈ C_{z}. De plus il existe ε > 0, M > 0 tels que:

∀Y ∈ −zC_{P} , ∀α ∈ Σ, −zα(Y) > ε ⇒ ∑_{μ∈L^{+}} |a_{μ}(λ)|e^{zμ(Y)} < M.

(iii) Φ(C_{z}w, ., .) est une fonction C^{∞} sur 𝔞_{ℂ}ˇ (z)×C_{z}wH et pour tout a ∈ C_{z} (resp. λ ∈ 𝔞_{ℂ}ˇ (z)), Φ(C_{z}w, λ, awH) est holomorphe en λ (resp. analytique en awH).

(iv) Φ(C_{z}w, λ, ·) est une famille de distributions sur C_{z}wH holomorphe.

(v) Si λ ∈ ^{∗}𝔞_{ℂ}^{reg}, (Φ(C_{z}w, uλ, ·))_{u∈W} est une base de E(C_{z}w, λ). Démonstration.

(i) Comme pour tout α ∈ Δ, |t_{w^{−1}}^{α}| = 1, la démonstration est la même que celle du corollaire 4.3.6 de [11]. Comme dans [11], prop. 4.3.7, (ii) et (iii) se déduisent de (i). (iv) On sait que si Ω et M sont deux variétés C^{∞}, C^{∞}(Ω×M) et C^{∞}(Ω, C^{∞}(M)) sont isomorphes. Si de plus Ω a une structure analytique complexe, en utilisant les équations de Cauchy-Riemann, le sous-espace de C^{∞}(Ω × M) formé des fonctions holomorphes en la premiére variable correspond, via l’isomophisme ci-dessus, au sous-espace de C^{∞}(Ω, C^{∞}(M)) formé des fonctions holomorphes sur Ω à valeurs dans C^{∞}(M). Ceci et (iii), montrent que lorsque Ω = 𝔞_{ℂ}ˇ (z) et M = C_{z}wH, la famille des fonctions C^{∞} sur C_{z}wH, Φ(C_{z}w, λ, ·), est holomorphe. Grâce au plongement continu de C^{∞}(Ω, C^{∞}(C_{z}wH) dans D′(C_{z}wH), Φ(C_{z}w, λ, ·) est aussi une famille de distributions holomorphe.

(v) Avec le même argument que celui [11], prop. 4.3.7, on vérifie que pour λ ∈ ^{∗}𝔞_{ℂ}^{reg} et u ∈ W, Φ(C_{z}w, uλ, ·) est élément de E(C_{z}w, λ). Montrons que la famille Φ(C_{z}w, uλ, ·), u ∈ W, est libre. Soit Y ∈ −zC_{P} tel que pour tout μ, ν ∈ L, u, v ∈ W, (uλ + zμ)(Y) ≠ (vλ + zν)(Y) (ceci est possible car si λ ∈ ^{∗}𝔞_{ℂ}^{reg}, uλ + zμ ≠ vλ + zν). On déduit de (i) que les séries Φ(C_{z}w, uλ, exp(tY)wH) sont uniformément convergentes en t sur [1, +∞[. Par conséquent, l’existence des nombres complexes non tous nuls tels que ∑_{u∈W} a_{u}Φ(C_{z}w, uλ, exp(tY)wH) = 0

contredit le lemme 4.4.2 de [11]. Donc la famille Φ(C_{z}w, uλ, ·), u ∈ W, est libre. Ceci joint à (5.7) achève la démonstration de (v).

Dans toute la suite de l’article on notera C_{z} := exp(−zC_{P}). On rappelle que X_{0} ∈ −zC_{P} et a_{t} = exp tX_{0}.

Lemme 9. Soit λ ∈ ^{∗}𝔞_{ℂ}^{reg}, alors pour tout u ∈ W, a ∈ C_{z} on a:

lim_{t→+∞}(aa_{−t})^{uλ−zρ}Φ(C_{z}w, −uλ, aa_{−t}wH) = 1,

et il existe C > 0, t_{1} > 0 tels que

∀a ∈ C_{z}, ∀t > t_{1}, | (aa_{−t})^{uλ−zρ}Φ(C_{z}w, −uλ, aa_{−t}wH) |< C.

Démonstration. Comme X_{0} ∈ zC_{P}, on a:

lim_{t→+∞} min_{β∈Σ}{zβ(tX_{0})} = +∞.  (5.9)

Il en résulte que:

∀δ > 0, ∃t_{1} > 0, ∀t > t_{1}, ∀α ∈ Σ, zα(tX_{0}) > δ.  (5.10)

On a d’après la proposition 3 (ii) :

∃ε > 0, ∃M > 0, ∀Y ∈ −zC_{P} , ∀α ∈ Σ,
−zα(Y) > ε ⇒ ∑_{μ∈L^{+}} | a_{μ}(−uλ) | e^{zμ(Y)} < M.  (5.11)

(5.10) et (5.11) montrent en particulier qu’il existe M > 0 et t_{1} > 0 tels que

∀t > t_{1}, D(t) < M.  (5.12)

où D(t) := ∑_{μ∈L^{+}} | a_{μ}(−uλ) | e^{−zμ(tX_{0})}. On peut écrire D(2t) sous la forme

D(2t) = ∑_{μ∈L^{+}} | a_{μ}(−uλ) | e^{−zμ(tX_{0})}e^{−zμ(tX_{0})}.

Donc, si on note μ_{0} := min_{α∈Σ}{zα(X_{0})} > 0, on a :

∀t > 0, 0 ≤ D(2t) ≤ D(t)e^{−tμ_{0}}.  (5.13)

D’après (5.12) D(t) est borné pour t > t_{1}, donc (5.5) donne:

lim_{t→+∞} D(t) = 0.  (5.14)

Comme pour tout a ∈ C_{z}:

| 1 − (aa_{−t})^{uλ−zρ}Φ(C_{z}w, −uλ, aa_{−t}wH) |≤ D(t),  (5.15)

il résulte de (5.14) et (5.15) que lim_{t→+∞}(aa_{−t})^{uλ−zρ}Φ(C_{z}w, −uλ, aa_{−t}wH) = 1. Puisque D(t) est bornée pour t > t_{1}, la seconde assertion du lemme découle de (5.15). D’où le lemme.

Proposition 4. On conserve les notations du §5. Alors on a :

(i) Pour toute fonction χ ∈ D(G/H) la fonction λ → Θ_{λ}^{x, y}(χ) est holomorphe sur ^{∗}𝔞_{ℂ}^{reg}(x, y). (ii) ∀λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y), ∀D ∈ 𝔻(G/H),

DΘ_{λ}^{x, y} = γ(D)(−λ)Θ_{λ}^{x, y}.

(iii) Soit λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y) et w ∈ W. Il existe des nombres complexes

c_{w}(x, y, C_{z}, u, −λ), pour x, y ∈ W

(ou W_{H} \ W), u, z ∈ W, tels que:

∀a ∈ C_{z}, Θ_{λ}^{x, y}(awH) = ∑_{u∈W} c_{w}(x, y, C_{z}, u, −λ)Φ(C_{z}w, −uλ, awH).

Ces nombres complexes sont uniques. (iv) Les fonctions λ ↦ c_{w}(x, y, C_{z}, u, −λ) sont holomorphes sur ^{∗}𝔞_{ℂ}^{reg}(x, y). Démonstration.

(i) Soit χ ∈ D(G/H). On l’identifie à un élément de E(G) invariant à droite par H. Pour tout μ, ν éléments de ^{∗}𝔞_{ℂ}^{reg}(x, y), on note

A(μ, ν) := ⟨(π′_{μ}(χ)ξ_{μ}^{x})˜ , (ξ_{ν}^{y})˜ ⟩_{D(K),D′(K)}.

Prouvons l’holomorphie séparée de A(μ, ν) dans ^{∗}𝔞_{ℂ}^{reg}(x, y) ×^{∗}𝔞_{ℂ}^{reg}(x, y). Fixons μ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y). Comme la fonction ν ↦ ξ̃_{ν}^{y} est holomorphe de ^{∗}𝔞_{ℂ}^{reg}(x, y) dans D′(K) et (π′_{μ}(χ)ξ_{μ}^{x})˜ ∈ D(K) (cf. §3), il en résulte que A(μ, ν) est holomorphe dans ∗𝔞_{ℂ}^{reg}(x, y) en ν. Fixons maintenant ν ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y) et montrons que A(μ, ν) est holomorphe en μ sur ^{∗}𝔞_{ℂ}^{reg}(x, y). Il suffit de voir que μ ↦ (π′_{μ}(χ)ξ_{μ}^{x})˜ est holomorphe de ^{∗}𝔞_{ℂ}^{reg}(x, y) dans D(K) ou ce qui revient au même que μ ↦ π′_{μ}(χ)ξ_{μ}^{x} est holomorphe de ^{∗}𝔞_{ℂ}^{reg}(x, y) dans E(G). Mais l’holomorphie faible implique l’holomorphie (cf. [4], §3.3.1). Soit T ∈ E′(G) on a:

⟨π_{μ}(χ)ξ_{μ}^{x}, T ⟩_{E(G), E′(G)} = ⟨χ ∗ ξ_{μ}^{x}, T ⟩_{E(G), E′(G)}
= ⟨ξ_{μ}^{x}, χ̌ ∗ T ⟩_{D′(G), D(G)},

Or μ ↦ ξ_{μ}^{x} est holomorphe de ^{∗}𝔞_{ℂ}^{reg}(x, y) dans D′(G), donc faiblement holomorphe, d’où le résultat voulu. L’holomorphie séparée de A(μ, ν) en résulte. Mais toute fonction séparément holomorphe est holomorphe. Par restriction à la diagonale, il en résulte que λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y) ↦ Θ_{λ}^{x, y}(χ) est holomorphe. (ii) Comme ξ_{λ}^{x} est propre sous l’action de U(𝔤)^{𝔥} ( cf. [21], théorème 5.1), on a (ii). (iii) découle de (ii) et de la proposition 3 (v). (iv) Fixons z et w ∈ W. Soit λ_{0} ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y). Les Φ(C_{z}w, −uλ_{0}), u ∈ W, sont linéairement indépendants comme fonctions C^{∞} sur C_{z}wH, donc également comme distributions sur C_{z}wH (ici on identifie les fonctions C^{∞} à des distributions gràce à la mesure de la remarque 2). Alors il existe une famille (φ_{v})_{v∈W} d’éléments de D(C_{z}wH) telle que det⟨Φ(C_{z}, −uλ_{0}), φ_{v}⟩_{u, v} ≠ 0. On se fixe un voisinage ouvert de λ_{0}, V_{λ_{0}} , dans ^{∗}𝔞_{ℂ}^{reg}(x, y), tel que det⟨Φ(C_{z}, −uλ), φ_{v}⟩_{u, v} (qui est holomorphe d’après la proposition 3 (iv)) soit nonnul pour λ ∈ V_{λ_{0}} . Soit ψ ∈ D(H/H ∩ M) tel que ∫_{H/H∩M} ψ( h)dḣ = 1. Avec les notations de §3. 2, pour

C = exp(−w^{−1}zC_{P}) on a, d’après la remarque 2 et l’assertion qui la précd̀e, pour tout λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y) et tout v ∈ W:

⟨Θ_{λ}^{x, y}, Φ^{w}(ψ, φ̃_{v})⟩ = ⟨Θ̃_{λ}^{x, y}, φ_{v}⟩

où φ̃_{v} est l’élément de D(C) définit par φ̃_{v}(a) = C_{G}^{−1}D_{w}(a)^{−1}φ_{v}(waH) et Θ̃_{λ}^{x, y} est la restriction de Θ_{λ}^{x, y} (regardée comme fonction analytique sur les éléments réguliers de G/H) à C_{z}wH. Donc Θ̃_{λ}^{x, y}(φ_{v}) est holomorphe en λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y) grâce à (i). D’après (ii) on a aussi:

⟨Θ̃_{λ}^{x, y}, φ_{v}⟩ = ∑_{u∈W} c_{w}(x, y, C_{z}, u, −λ)⟨Φ(C_{z}w, −uλ), φ_{v}⟩.

Comme toutes les fonctions de λ figurant dans ce système d’équations sont holomorphes sur V_{λ_{0}} , il en va de même pour tous les c_{w}(x, y, C_{z}, u, −λ), puisque det⟨Φ(C_{z}w, −uλ), φ_{v}⟩_{u, v} ne s’annule pas sur V_{λ_{0}} . Ceci prouve (iv).

Théorème 2. Pour u ∈ W, on note \overline{u}, l’unique élément de W tel que u ∈ W_{H} \overline{u}. Soient x, y, z éléments de W et a ∈ C_{z} = exp(−zC_{P}). Pour λ ∈ ∗𝔞_{ℂ}^{reg}(x, y) on a : ∀a ∈ C_{z},

Θ_{λ}^{x, y}(awH) = ∑_{u∈W} B_{\overline{w^{−1}z},\overline{x}}(z^{−1}u, λ)B_{\overline{zw_{0}},\overline{y}}(w_{0}z^{−1}u, −λ)Φ(C_{z}w, −uλ, awH).

Nous commençons la démonstration du théorème 2. Avec une démonstration similaire à celle du lemme 18 de [7] (en conservant les notations du §3, avec C = C_{z} et en tenant compte des Φ_{t}^{w}; et également de la présence de waH dans la formule intégrale précédant la remarque 2 et celle de awH dans la définition des Φ(C_{z}w, λ, .)) on a :

Lemme 10. Avec les notations de la proposition 4 et du théorème 2, on a pour tout λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y):

c_{w}(x, y, C_{z}, z, −λ) = \{ \begin{matrix}B_{\overline{zw_{0}}, \overline{y}}(w_{0}, −λ) & si xz^{−1}w ∈ W_{H}, \\ 0 & sinon. \end{matrix}

Lemme 11. Avec les notations du lemme 9, on a, pour λ ∈^{∗} 𝔞_{ℂ}^{reg}(x, y) et u ∈ W :

c_{w}(x, y, C_{z}, u, −λ) = B_{\overline{w^{−1}z}, \overline{x}}(z^{−1}u, λ)B_{\overline{zw_{0}}, \overline{y}}(w_{0}z^{−1}u, −λ)

Démonstration. Soit λ ∈ ^{∗}𝔞_{ℂ}^{reg}(x, y) tel que ℜe(λ − ρ) est strictement Δ^{+}- dominant. Soient v ∈ W et f ∈ D(G/H). Calculons R := ⟨π′_{v^{−1}λ}(f)A′(v, v^{−1}λ)ξ_{λ}^{x}, A′(v, −v^{−1}λ)ξ_{−λ}^{y}⟩_{I_{−v^{−1}λ}, (I_{−v^{−1}λ})′}. D’après (4.7), on a:

A′(v, v^{−1}λ)ξ_{λ}^{x} = ∑_{s∈W} B_{s,\overline{x}}(v^{−1}, λ)ξ_{v^{−1}λ}^{s}

et

A′(v, −v^{−1}λ)ξ_{−λ}^{y} = ∑_{t∈W} B_{t, \overline{y}}(v^{−1}, −λ)ξ_{−v^{−1}λ}^{t}.

On en déduit que

R = ∑_{s, t∈W} B_{s, \overline{x}}(v^{−1}, λ)B_{t, \overline{y}}(v^{−1}, −λ)Θ_{v^{−1}λ}^{s, t}(f).  (5.16)

D’autre part, en utilisant les propriétés d’entrelacement, on a:

R = ⟨A′(v, v^{−1}λ)π′_{λ}(f)ξ_{λ}^{x}, A′(v, − v^{−1}λ)ξ_{−λ}^{y}⟩

car A′(v, v^{−1}λ) entrelace π′_{λ} et π′_{v^{−1}λ}. Or π′_{λ}(f)ξ_{λ}^{x} est un élément de I_{−λ}, donc d’après la remarque 4 on a:

R = ⟨A(v^{−1}, −λ)π′_{λ}(f)ξ_{λ}^{x}, A′(v, − v^{−1}λ)ξ_{−λ}^{y}⟩

et par transposition, on obtient:

R = ⟨A(v, − v^{−1}λ)A(v, −λ)π′_{λ}(f)ξ_{λ}^{x}, ξ_{−λ}^{y}⟩

Mais d’après (4.9) on a A(v, − v^{−1}λ)A(v^{−1}, −λ) = η_{v^{−1}}(−λ)Id. Finalement on obtient

R = η_{v^{−1}}(−λ)Θ_{λ}^{x, y}(f).  (5.17)

En comparant (5.16) et (5.17) on en déduit que

η_{v^{−1}}(−λ)Θ_{λ}^{x, y} = ∑_{s, t∈W} B_{s, \overline{x}}(v^{−1}, λ)B_{t, \overline{y}}(v^{−1}, −λ)Θ_{v^{−1}λ}^{s, t}.  (5.18)

Utilisant (5.2) et l’expression de Θ_{λ}^{x, y} dans la proposition 4, on en déduit :

η_{v^{−1}}(−λ)c_{w}(x, y, C_{z}, u, −λ) = ∑_{s, t∈W} B_{s, \overline{x}}(v^{−1}, λ)B_{t, \overline{y}}(v^{−1}, −λ)

c_{w}(s, t, C_{z}, uv, −v^{−1}λ).

En particulier pour v = u^{−1}z on a:

η_{z^{−1}u}(−λ)c_{w}(x, y, C_{z}, u, −λ) = ∑_{s, t∈W} B_{s, \overline{x}}(z^{−1}u, λ)B_{t, \overline{y}}(z^{−1}u, −λ)

c_{w}(s, t, C_{z}, z, −z^{−1}uλ). (5.19)

Donc, d’après le lemme 10, ceci donne

η_{z^{−1}u}(−λ)c_{w}(x, y, C_{z}, u, −λ)

= B_{\overline{w^{−1}z}, \overline{x}}(z^{−1}u, λ) ∑_{t∈W} B_{\overline{zw_{0}}, t}(w_{0}, −z^{−1}uλ)B_{t, \overline{y}}(z^{−1}u, −λ).

(5.20)

On a:

∑_{t∈W} B_{\overline{zw_{0}}, t}(w_{0}, −z^{−1}uλ)B_{t, \overline{y}}(z^{−1}u, −λ)

= (B(w_{0}, −z^{−1}uλ)B(z^{−1}u, −λ))_{\overline{zw_{0}}, \overline{y}}.  (5.21)

Mais l(w_{0}) = l(w_{0}z^{−1}u) + l(u^{−1}z). Donc d’après (4.10) on a:

B(w_{0}, −z^{−1}uλ) = B(w_{0}z^{−1}u, −λ)B(u^{−1}z, −z^{−1}uλ)  (5.22)

D’autre part on a, d’après (4.11):

B(u^{−1}z, −z^{−1}uλ)B(z^{−1}u, −λ) = η_{z^{−1}u}(−λ)I.  (5.23)

Donc grâce à (5.20), (5.21), (5.22) et après simplification par η_{z^{−1}u}, (5.19) devient:

c_{w}(x, y, C_{z}, u, −λ) = B_{\overline{w}^{−1}z}, \overline{x}(z^{−1}u, λ)B_{\overline{zw_{0}}, y}(w_{0}z^{−1}u, −λ).

Remarque 4. Notre théorème 2 permet de retrouver aisément d’une autre manière le théorème 5.1 de [13].

6. Front d’onde, restrictions de distributions et matrice B

On note V := {μ ∈ 𝔞_{ℂ}^{∗} : ℜe(μ − ρ) est Δ^{+} − dominant}. Soient w, y ∈ W. Avec les notations du théorème 1 et du §4, on pose

u_{λ}^{w} := u_{λ, w_{0}}^{w, e}, v_{λ}^{w} := v_{λ, w_{0}}^{w, e} et η_{λ} := η_{λ, e}.

Soient M une variété différentielle, T ∈ D′(M) et D un opérateur différentiel sur M. On note W F (T) le front d’onde de T (voir Appendice A), σ_{D} le symbole de D (cf. [3], prop. 2.1) et 0 est la section nulle du fibré cotangent de M, T^{∗}M. On suppose qu’il existe une constante C_{D} telle que DT = C_{D}T, alors on a (cf. [17], th. 8.3.1):

W F (T) ⊂ {(x, ξ) ∈ T^{∗}M \ 0 : σ_{D}(x, ξ) = 0}  (6.1)

Théorème 3. (i) Soient λ ∈ V et ν ∈ 𝔞_{ℂ}^{∗} tel que ξ_{ν}^{y} est défini. Pour tout h ∈ H, le produit des distributions (cf.[17], th. 8.2.10) π′_{λ}(hww_{0})η_{λ} et ξ_{ν}^{y} est bien défini, ainsi que sa restriction à K. (ii) Il existe un ouvert connexe dense, O, de 𝔞_{ℂ}^{∗} tel que pour (ν, λ) ∈ O × V, le produit des distributions ξ_{ν}^{y} et π′_{λ}(ww_{0})η_{λ} est bien défini, et est holomorphe en ν. (iii) Pour λ ∈ (−O)∩V tel que B(w_{0}, −λ) soit défini, ainsi que toutes les fonctions méromorphes, en nombre fini, intervenant dans (4.7), pour la valeur −w_{0}λ au lieu de λ, on a:

B_{\overline{w},\overline{y}}(w_{0}, −λ) = ⟨((π′_{λ}(ww_{0})η_{λ})ξ_{−λ}^{y})|_{K}, 1_{K}⟩.

Démonstration.

(i) Soient λ et ν comme dans l’énoncé. On note η_{λ}^{w} := π′_{λ}(w)η_{λ,w_{0}} = π′_{λ}(ww_{0})η_{λ}. Pour tout g élément de G, on identifie 𝔤 et T_{g}G en associant à X ∈ 𝔤 le vecteur tangent en t = 0 à la courbe dans G, t → g exp tX. En identifiant 𝔤 et 𝔤^{∗} à l’aide de la forme de Killing B, T_{g}^{∗}G s’identifie naturellement à 𝔤. Si ξ est un élément de T_{g}^{∗}G, on note X_{ξ} l’élément de 𝔤 correspondant à ξ dans cette identification. Il n’est pas difficile de voir que:

∀X ∈ 𝔤, ∀(g, ξ) ∈ T^{∗}G, σ_{R_{X}}(g, ξ) = iB(X, X_{ξ}).  (6.2)

En remarquant que pour tout fonction C^{∞} dans G, f, on a:

∀X ∈ 𝔤, (L_{X}f)(g) = −(R_{Ad(g^{−1})X}f)(g).

On déduit de (6.2):

∀X ∈ 𝔤, ∀ξ ∈ T_{g}^{∗}G, σ_{L_{X}}(g, ξ) = −iB(Ad(g^{−1})X, X_{ξ}).  (6.3)

On note Γ := {(g, ξ) ∈ T^{∗}G : ξ ≠ 0, ∀X ∈ 𝔥, ∀Y ∈ 𝔪 ⊕ 𝔞 ⊕ 𝔫, σ_{L_{X}}(g, ξ) = 0, σ_{R_{Y}} (g, ξ) = 0}. Alors Γ est un cône fermé de T^{∗}G \ 0. De plus d’après l’invariance à gauche sous H de ξ_{ν}^{y} et sa covariance à droite sous P, on a grâce à (6.1):

W F (ξ_{ν}^{y}) ⊂ Γ.  (6.4)

On a L_{h}^{∗}η_{λ}^{w} = L_{h^{−1}}η_{λ}^{w}, où, dans le premier membre, L_{h}^{∗} désigne l’image réciproque de η_{λ}^{w} par la translation à gauche par h et, dans le second membre, L_{h} désigne la représentation régulière gauche. Comme η_{λ} est invariante à gauche par θ(N), pour tout h ∈ H, L_{h}^{∗}η_{λ}^{w} est invariante à gauche par h^{−1}ww_{0}(θ(N))(h^{−1}ww_{0})^{−1}. Donc L_{h}^{∗}η_{λ}^{w} est invariante à gauche par Ad(h^{−1}ww_{0})(θ(𝔫)). En outre L_{h}^{∗}η_{λ}^{w} a des propriétés de covariance à droite sous P. Donc pour les mêmes raisons que ci-dessus on a:

∀h ∈ H, W F (L_{h}^{∗}η_{λ}^{w}) ⊂ Γ^{h}

où Γ^{h} := {(g, ξ) ∈ T^{∗}G : ξ ≠ 0, ∀X ∈ θ(𝔫), ∀Y ∈ 𝔪 ⊕ 𝔞 ⊕ 𝔫, σ_{L_{Ad(h^{−1}ww_{0})X}}(g, ξ) = 0, σ_{R_{Y}} (g, ξ) = 0}. Soit Λ un sous-ensemble compact de H. On note Γ_{1} = Γ^{e} et Γ_{2} := ⋃_{h∈Λ} Γ^{h}. Comme Γ_{1} est un cône fermé de T^{∗}G \ 0, il résulte du lemme A.4

appliqué à f :: H × G → G, (h, g) ↦ hg = L_{h}(g), Λ et Γ_{1}, que Γ_{2} est un cône fermé de T^{∗}G\0. Montrons que Γ∩Γ_{2} = Γ∩−Γ_{2} = Ø. On note Γ_{g} := (T_{g}^{∗}G)∩Γ. Comme l’orthogonal de 𝔥 (resp. 𝔪 ⊕ 𝔞 ⊕ 𝔫) relativement à la forme de Killing est 𝔮 (resp. 𝔫) on a d’après (6.2) et notre identification:

Γ_{g} = 𝔫 ∩ Ad(g^{−1})𝔮 \ {0}.  (6.5)

De même comme l’orhogonal de θ(𝔫) est 𝔪 ⊕ 𝔞 ⊕ θ(𝔫) on a:

(Γ_{1})_{g} = (𝔫 \ {0}) ∩ Ad(g^{−1}ww_{0})(𝔪 ⊕ 𝔞 ⊕ θ(𝔫))
et
(Γ_{2})_{g} = (𝔫 \ {0}) ∩ ⋃_{h∈Λ} Ad(g^{−1}hww_{0})(𝔪 ⊕ 𝔞 ⊕ θ(𝔫)).  (6.6)

Si X ∈ 𝔮 ∩ (𝔪 ⊕ 𝔞 ⊕ Ad(ww_{0})(θ(𝔫)), il existe X_{1} ∈ 𝔪 ⊂ 𝔥, X_{2} ∈ 𝔞 ⊂ 𝔮 et X_{3} ∈ Ad(ww_{0})(θ(𝔫)) tels que X = X_{1} + X_{2} + X_{3} et σ(X) = −X. Ceci implique que X_{1}+σ(X_{3}) = −X_{1}−X_{3}. Mais 𝔤 = σ(Ad(ww_{0})(θ(𝔫))⊕𝔪⊕𝔞⊕Ad(ww_{0})(θ(𝔫)), donc X_{1} = X_{3} = 0 et X ∈ 𝔞. Comme 𝔞 ⊂ 𝔮 ∩ (𝔪 ⊕ 𝔞 ⊕ Ad(ww_{0})(θ(𝔫)), il en résulte:

𝔮 ∩ (𝔪 ⊕ 𝔞 ⊕ Ad(ww_{0})(θ(𝔫)) = 𝔞.  (6.7)

Comme 𝔮 est invariant par H et ww_{0} normalise 𝔪 ⊕ 𝔞, on a:

Ad(g^{−1})(𝔮) ∩ Ad(g^{−1}h^{−1}ww_{0})(𝔪 ⊕ 𝔞 ⊕ θ(𝔫))
= Ad(g^{−1}h^{−1})(𝔮 ∩ (𝔪 ⊕ 𝔞 ⊕ Ad(ww_{0})(θ(𝔫)))).

Ceci joint à (6.7) donne:

Ad(g^{−1})(𝔮) ∩ Ad(g^{−1}h^{−1}ww_{0})(𝔪 ⊕ 𝔞 ⊕ θ(𝔫)) = Ad(g^{−1}h^{−1})(𝔞).

En utilisant (6.6), il en découle que:

Γ_{g} ∩ (−Γ_{2})_{g} = (𝔫 \ {0}) ∩ ⋃_{h∈Λ} Ad(g^{−1}h^{−1})(𝔞)

où −Γ_{2} := {(g, ξ) ∈ T^{∗}G : (g, −ξ) ∈ Γ_{2}}. Or les éléments de Ad(g^{−1}h^{−1})(𝔞) sont semi-simples et ceux de 𝔫 sont nilpotents, d’où :

Γ ∩ Γ_{2} = Γ ∩ −Γ_{2} = Ø.  (6.8)

Donc si on note Γ_{3} := Γ ∪ Γ_{2} ∪ {(g, ξ + η) ∈ T^{∗}G : (g, ξ) ∈ Γ, (g, η) ∈ Γ_{2})}, avec les notations de l’appendice, l’application de D′_{Γ}(G) × D′_{Γ_{2}}(G) dans D′_{Γ_{3}}(G) définie par: (S, T) ↦ ST est bien définie (cf. [17], th.8.2.10) et séparément continue. De même comme pour tout g ∈ G on a (Γ_{3})_{g} ⊂ 𝔫 et 𝔭 ∩ 𝔫 = 0, l’intersection du fibré normal de K avec Γ_{3} est vide. Donc il résulte du corollaire 8.2.7 [17] que l’application de D′_{Γ_{3}}(G) dans D′(K): T ↦ T |_{K} est bien définie et est continue d’après la proposition A.3. Finalement, grâce à la proposition A.4 (ii), on a: l’application de D′_{Γ}(G) × D′_{Γ_{2}}(G) dans D′(K) définie par:

(S, T) ↦ (ST)|_{K}  (6.9)

est bien définie. C’est une application bilinéaire séparément séquentielement continue.

Comme π′_{λ}(hww_{0})η_{λ} ∈ D′_{Γ_{2}}(G) et ξ_{ν}^{y} ∈ D′_{Γ}(G), (i) résulte de (6.9).

(ii) Montrons qu’il existe un ouvert connexe dense, O, de 𝔞_{ℂ}^{∗} tel que pour tout λ ∈ V, l’application définie sur O à valeurs dans D′_{Γ_{3}}(G) par: ν ↦ ξ_{ν}π′_{λ}(ww_{0})η_{λ}, soit holomorphe. On se propose d’appliquer la proposition B.2 de [5], pour démontrer une propriété d’holomorphie de ξ_{ν}. On conserve les notations du §8.1 et on définit une application u de V dans C(G) par u(ν) = ξ_{ν}^{y}. C’est une application holomorphe lorsque C(G) est muni de la topologie de la convergence uniforme sur les compacts de G (voir démonstration de l’holomophie de F_{ν,v} dans le lemme 11 de [5]). Pour tout ν ∈ V, on définit les polynômes d’une variables complexes z suivants:

P_{X}(ν, z) = \{ \begin{matrix}z & si X ∈ 𝔥 ∪ 𝔪 ∪ 𝔫, \\ z − e^{(ν−ρ)(X)} & si X ∈ 𝔞. \end{matrix}

Il est clair d’après les propriétés d’invariance de ξ_{ν}^{y} que P_{X}(ν, L_{X})(u(ν)) = 0 si X ∈ 𝔥, et P_{X}(ν, R_{X})(u(ν)) = 0 si X ∈ 𝔪 ∪ 𝔞 ∪ 𝔫. Les polynômes P_{X}(ν, z) sont tous de la forme z − λ_{X}(ν) où λ_{X} est une fonction holomorphe sur V. Donc en tenant compte de la définition de Γ et de l’holomorphie de u, on peut appliquer la proposition B.2 de [5] à Γ et u. Il en résulte que:

u est holomorphe de V dans D′_{Γ}(G).  (6.10)

Comme 𝔞 est contenu 𝔭∩𝔮 et est abélien maximal dans 𝔮, on a, d’après [2], th.9.3

(i), pour tout μ ∈ Λ^{+}(𝔞) := \{α ∈ 𝔞_{ℂ}^{∗} : \frac{(α, β)}{(β, β)} ∈ ℕ, ∀β ∈ Δ^{+}\}, il existe une fonction

polynômiale b_{μ} sur 𝔞_{ℂ}^{∗}, non identiquement nulle et une fonction polynômiale sur 𝔞_{ℂ}^{∗} à valeurs dans l’algèbre des opérateurs différentiels (en particulier à valeurs dans un espace vectoriel de dimension finie), D̃_{μ}, tels que:

b_{μ}(ν)ξ_{ν}^{y} = D̃_{μ}(ν)ξ_{ν+μ}^{y}.  (6.11)

On rapelle que les μ_{i}, i = 1, …, l, sont des éléments de Λ^{+}(𝔞) (cf. §2) et forment

une base de 𝔞_{ℂ}^{∗}. On note μ_{o} := ∑_{i=1}^{l} μ_{i}. Alors μ_{0} est aussi un élément de Λ^{+}(𝔞), et

on voit facilement que 𝔞_{ℂ}^{∗} = ⋃_{n∈ℕ}(V − nμ_{0}). On pose

O := ⋃_{n∈ℕ} O_{n}

où O_{n} est complémentaire de l’ensemble des zéros du polynôme b_{nμ_{0}} dans (V − nμ_{0}). Donc O_{n} est connexe (cf. [28], ch. I, lemme 6.A). Comme, pour tout n ∈ ℕ, μ_{0} + ρ est élément de O_{n}, O est connexe. D’autre part, il est clair que O est un ouvert dense dans 𝔞_{ℂ}^{∗}. Comme les opérateurs différentiels sont des endomorphismes continus de D′_{Γ}(G) (cf. [17], (8.1.11)), Il en résulte, d’après l’équation fonctionnelle (6.11) et grâce à (6.10), que pour tout n ∈ ℕ, ξ_{ν} admet un prolongement holmorphe de O_{n} dans D′_{Γ}(G), donc de O dans D′_{Γ}(G). Maintenant ceci joint à (6.9), montre que le produit des distributions ξ_{ν}^{y} et π′_{λ}(ww_{0})η_{λ} est bien défini, et est holomorphe en ν. Cela achève la démonstration de (ii). (iii) Soit λ comme dans l’énoncé. On reprend les notations du théorème 1. On suppose dans toute la suite de la démonstration que ∫_{C_{P}} a^{−w_{0}(λ+ρ)}φ(a)da = 1. On

rappelle que u_{λ}^{w} = A′(w_{0}, λ)v_{λ}^{w} où v_{λ}^{w} est un élément de I_{−w_{0}λ} (voir (4.3)). On note ψ̃ un élément de D(H) tel que:

∀h ∈ H, ψ(ḣ) = ∫_{H∩M} ψ̃(hm)dm.

On prend Λ = supp ψ. On effectue de deux façons différente le calcul de ⟨u_{λ}^{w}, ξ_{−λ}^{y}⟩. Le premier calcul est analogue à celui de [7] et donne:

⟨u_{λ}^{w}, ξ_{−λ}^{y}⟩ = B_{\overline{w},\overline{y}}(w_{0}, −λ) ∫_{H} ψ̃(h)dh.  (6.12)

Effectuons le deuxième calcul de ⟨u_{λ}^{w}, ξ_{−λ}^{y}⟩. On rappelle que u_{λ}^{w} est un élément de I_{−w_{0}λ}, en particulier sa restriction à K est une fonction C^{∞}. On en déduit que:

⟨u_{λ}^{w}, ξ_{−λ}^{y}⟩_{I_{−λ},(I_{−λ})′} = ⟨(u_{λ}^{w}ξ_{−λ}^{y})|_{K}, 1_{K}⟩_{D′(K), D(K)}.  (6.13)

La continuité séquentielle séparée de l’application D′_{Γ}(G) × D′_{Γ_{2}}(G) → D′(K) : (S, T) ↦ (ST)|_{K} (cf. (6.9)) montre que l’application γ définit de D′_{Γ_{2}}(G) dans ℂ par γ(S) = ⟨(Sξ_{−λ}^{y})|_{K}, 1_{K}⟩_{D′(K), D(K)} est une forme linéaire continue sur D′_{Γ_{2}}(G).

Mais u_{λ}^{w} = ∫_{H} ψ̃(h)π′_{λ}(hw)η_{λ,w_{0}}dh (cf. [7], p. 339). Donc u_{λ}^{w} est l’intégrale de Riemann dans D′(G) de la fonction continue à support compact définie sur H par: h ↦ ψ̃(h)L_{h}^{∗}η_{λ}^{w}. Mais cette dernière prends ses valeurs dans D′_{Γ_{2}}(G) (voir fin de la démonstration de (i)), il résulte de la proposition A.3, appliquée à X = G, Y = G, Z = H et f: H × G → G, (h, g) ↦ hg, que c’est une intégrale de Riemann dans D′_{Γ_{2}}(G). Donc il découle des propriétés des intégrales de Riemann

que: γ(u_{λ}^{w}) = ∫_{H} γ(ψ̃(h)L_{h}^{∗}η_{λ}^{w})dh, c’est à dire:

⟨u_{λ}^{w}, ξ_{−λ}^{y}⟩_{I_{−λ},(I_{−λ})′} = ∫_{H} ψ̃(h)⟨((L_{h}^{∗}η_{λ}^{w})ξ_{−λ}^{y})|_{K}, 1_{K}⟩dh.

Comme pour tout g ∈ G, v ∈ I′_{−ρ}, on a ⟨L_{g}v|_{K}, 1_{K}⟩ = ⟨v|_{K}, 1_{K}⟩, on en déduit que:

⟨u_{λ}^{w}, ξ_{−λ}^{y}⟩_{I_{−λ},(I_{−λ})′} = (∫_{H} ψ̃(h)dh)⟨(η_{λ}^{w}ξ_{−λ}^{y})|_{K}, 1_{K}⟩  (6.14)

En comparant (6.12) et (6.14), on en déduit que :

B_{\overline{w},\overline{y}}(w_{0}, −λ) = ⟨(η_{λ}^{w}ξ_{−λ}^{y})|_{K}, 1_{K}⟩.

Ceci achève la démonstration du théorème.

Calcul de B dans le cas de SO(p, 1)/SO(p − 1, 1), p > 1

Dans ce cas, il existe une seule racine positive relativement à P, α. On note s_{α} la reflexion correspondante. Comme ces espace symétriques sont de type G/K_{ε}, ce calcul peut être déduit de [23], th. 4.10. Ici on procéde différement, en utilisant le théorème 3. On a l’égalité des fonctions méromorphes:

B_{e,\overline{s}_{α}}(s_{α}, −λ) = B_{\overline{s}_{α},e}(s_{α}, −λ) = \frac{4^{p−2}Γ(\frac{p−1}{2})(Γ(\frac{p}{2}))^{2}Γ(\frac{3−p}{2} − t)}{πΓ(p − 1)Γ(1 − t)}

B_{e,e}(s_{α}, −λ) = B_{\overline{s}_{α}, \overline{s}_{α}}(s_{α}, −λ) = \{ \begin{matrix}\frac{4^{p−2}(Γ(\frac{p}{2}))^{2}Γ(\frac{3−p}{2} − t)Γ(t)}{πΓ(p − 1)Γ(\frac{3−p}{2})} & si p est pair, \\ 0 & si p est impair, \end{matrix}

où λ = tα avec t ∈ ℂ. En effet, comme il s’agit d’une égalité de fonctions méromorphes, il suffit de prouver la proposition pour λ comme dans le théorème 3 (iii). Soit (e_{1}, ⋯, e_{p+1}) la base canonique de ℝ^{p+1}. Si on note Ξ := {x ∈ ℝ^{p+1} : x_{1}^{2}+⋯+x_{p}^{2}−x_{p+1}^{2} = 0, x_{p+1} > 0}, G agit transitivement sur Ξ et le stabilisateur de e_{1} + e_{p+1} est égal à MN (cf. [16],part II, exemple 5.3). Donc G/MN s’identifie à Ξ. Alors HP/MN s’identie à HP.(e_{1} + e_{p+1}) = {x ∈ Ξ : x_{1} > 0} et Hs_{α}P/MN à {x ∈ Ξ : x_{1} < 0}. Donc il y a deux orbites ouvertes et W = {1, s_{α}}. On identifie aussi 𝔞_{ℂ}^{∗} à ℂ en associant à tout s ∈ ℂ l’élément sα ∈ 𝔞_{ℂ}^{∗}. Comme e_{1} est H -invariant, e_{1} + e_{p+1} est N - invariant et pour tout t ∈ ℂ, on a a_{t}.(e_{1} + e_{p+1}) = a_{t}^{α}(e_{1} + e_{p+1}). Il en résulte que si λ = sα on a:

ξ_{λ}^{w}(g) = \{ \begin{matrix}|(g.(e_{1} + e_{p+1}), e_{1})|^{s− \frac{p−1}{2}} & si g ∈ HwP \\ 0 & sinon. \end{matrix}  (6.15)
η_{λ}(g) = \frac{1}{2^{s− \frac{p−1}{2}}} (g.(e_{1} + e_{p+1}), (e_{1} + e_{p+1}))^{s− \frac{p−1}{2}} .

Pour λ = sα, on note ξ_{s}^{+} (resp. ξ_{s}^{−}), l’application définie sur Ξ par ξ_{s}^{+}(x) = ξ_{λ}^{e}(g) (resp. ξ_{s}^{−}(x) = ξ_{λ}^{s_{α}}(g)) si x = g.(e_{1} + e_{p+1}). De la même façon on note η_{s}^{+} (resp. η_{s}^{−}), l’application définie sur Ξ par η_{s}^{+}(x) = η_{λ}(g) (resp. η_{s}^{−}(x) = η_{λ}(s_{α}g) si x = g.(e_{1} + e_{p+1})). Il résulte donc de (6.15) et de nos identifications que pour tout x ∈ Ξ on a:

ξ_{s}^{+}(x) = (sup(x_{1}, 0))^{s− \frac{p−1}{2}} , ξ_{s}^{−}(x) = (sup(−x_{1}, 0))^{s− \frac{p−1}{2}} ;
η_{s}^{+}(x) = \frac{|x_{1} + x_{p+1}|^{s− \frac{p−1}{2}}}{2^{s− \frac{p−1}{2}}} , η_{s}^{−}(x) = \frac{|x_{p+1} − x_{1}|^{s− \frac{p−1}{2}}}{2^{s− \frac{p−1}{2}}}  (6.16)

On reprend les notations du théorème 3. Soient λ = tα ∈ V et ν = sα un élément de O ∩ V, on a:

⟨(ξ_{ν}^{e}η_{λ})|_{K}, 1_{K}⟩ = ∫_{K} ξ_{ν}^{e}(k)η_{λ}(k)dk (bien défini (cf. th. 3)).

Mais ξ_{ν}^{e} et η_{λ} sont invariantes à droite par K ∩ M. Donc, avec notre choix de mesure (cf. §2.4), on a:

⟨(ξ_{ν}^{e}η_{λ})|_{K}, 1_{K}⟩ = ∫_{K/K∩M} ξ_{ν}^{e}(k)η_{λ}(k)dk̇.  (6.17)

Rappelons que K/K ∩ M s’identifie naturellement à S^{p−1} × {1} dans Ξ (cf. [16], exemple 2.2). Si on note respectivement ξ̃_{s} et η̃_{s} les restrictions de ξ_{s} et η_{t} à S^{p−1} × {1}, pour tout x ∈ S^{p−1} × {1}, ξ̃_{s} et η̃_{t} sont données par des formules analogues à (6.16). Donc (6.17) devient:

⟨(ξ_{ν}^{e}η_{λ})|_{K}, 1_{K}⟩ = \frac{1}{2^{t− \frac{p−1}{2}}} ∫_{S^{p−1}}(sup(x_{1}, 0))^{s− \frac{p−1}{2}} (1 + x_{1})^{t− \frac{p−1}{2}} dx.  (6.18)

En coordonnées sphériques, ceci s’écrit:

⟨(ξ_{ν}^{e}η_{λ})|_{K}, 1_{K}⟩ = c_{t} ∫0^{\frac{π}{2}} (cos θ_{1})^{s− \frac{p−1}{2}} (1 + cos θ_{1})^{t− \frac{p−1}{2}} sin^{p−2} θ_{1}dθ_{1},

où c_{t} = \frac{2^{p−2}(Γ( \frac{p}{2} ))^{2}}{2^{t− \frac{p−1}{2}} πΓ(p−1)} . On fait le changement de variable z = cos θ et l’on a:

⟨(ξ_{ν}^{e}η_{λ})|_{K}, 1_{K}⟩ = c_{t} ∫_{0}^{1} z^{s− \frac{p−1}{2}} (1 − z)^{\frac{p−3}{2}} (1 + z)^{t−1}dz.  (6.19)

En utilisant [9], §2.1.3, formule (10), on obtient:

⟨(ξ_{ν}^{e}η_{λ})|_{K}, 1_{K}⟩ = c_{t} \frac{Γ(s + \frac{3−p}{2})Γ(\frac{p−1}{2})}{Γ(s + 1)}F (1 − t, s + \frac{3 − p}{2}; s + 1; −1).  (6.20)

Mais d’après [9], §2.1.4, formule (22), on a:

F (a, b, c; z) = (1 − z)^{−a}F (a, c − b, c; \frac{z}{z − 1}).

Donc on obtient:

F (1 − t, s + \frac{3 − p}{2}; s + 1; −1) = 2^{−(1−t)} = 46(1 − t, \frac{p − 1}{2}; s + 1; \frac{1}{2}).

Le membre de droite de cette égalité divisé par Γ(s + 1) est holomorphe en s sur ℂ (cf. [9], §2.1.6). Donc il résulte de l’holomorphie de ν ↦ ⟨(ξ_{ν}^{e}η_{λ})|_{K}, 1_{K}⟩ sur O (cf. th. 3 (ii)) que (6.20) qui est vrai pour ν ∈ O ∩ V, se prolonge à O. Alors pour λ comme dans le théorème 3 (iii), on a:

B_{s_{α},e}(s_{α}, −λ) = c_{t} \frac{Γ(\frac{3−p}{2} − t)Γ(\frac{p−1}{2})}{Γ(1 − t)}2^{t−1}F (1 − t, \frac{p − 1}{2}; 1 − t; \frac{1}{2}).  (6.21)

C’est une identité de fonctions méromorphes sur ℂ. Mais on a:

(1 + z)^{a} = F (−a, b; b; −z)et
F (a, b; c; z) = F (b, a; c; z)  (6.22)

(cf. [9], §2.8, formules (4) et (8)). Donc on a:

= 46(1 − t, \frac{p − 1}{2}; 1 − t; \frac{1}{2}) = F (−\frac{1 − p}{2}, 1 − t, 1 − t; \frac{1}{2})
= 2^{\frac{p−1}{2}} .

Ceci joint à (6.21) donne:

B_{s_{α},e}(s_{α}, −λ) = \frac{4^{p−2}Γ(\frac{p−1}{2})(Γ(\frac{p}{2}))^{2}Γ(\frac{3−p}{2} − t)}{πΓ(p − 1)Γ(1 − t)}.  (6.23)

En procédant d’une façon similaire, on aboutit au résultat voulu.

Appendice

Dans toute la suite de cet appendice on énoncera sans démonstration les résultats établis dans [26], appendice. Pour toutes les variétés différentielles citées dans cet appendice, on fixe une mesure de Lebesgue de sorte que les fonctions généralisés s’identifient à des distributions. Soient X, Y et Z des variétés différentielles C^{∞}. On note m = dim X et n = dim Y . Si K est un sous-ensemble compact de X on note D_{K}(X) l’ensemble des fonctions C^{∞} sur X à support dans K muni de sa topologie usuelle. On note T^{∗}X le fibré cotangent de X et 0 la section nulle de T^{∗}X. Soit Γ un cône fermé de T^{∗}X \ 0. On note pour tout u ∈ D′(X), W F (u), le front d’onde de u (cf. [17], vol.1 §8.2). On note

D′_{Γ}(X) := {u ∈ D′(X)′ : W F (u) ⊂ Γ}.

On muni D′_{Γ}(X) des semi-normes suivantes:

(a) p_{χ}(u) = |⟨u, χ⟩| pour χ ∈ D(X).

(b) Si φ : U → V ⊂ X est une carte locale de X (U ouvert de ℝ^{m}), on définit pour tout N ∈ ℕ, ϕ ∈ D(U) et C cône fermé de ℝ^{m} tel que ^{t}((φ^{−1})′)(supp ϕ×C)∩Γ = Ø:

p_{φ, N, ϕ,C}(u) = sup_{ξ∈C} ∥ ξ ∥^{N} |F(ϕ(φ^{∗}u)(ξ))|

où φ^{∗}u est l’image réciproque par φ de la restriction de u à V et F désigne la transformée de Fourier des distributions à support compact. Soit f une application C^{∞} de Z × X dans Y telle que pour tout z ∈ Z, l’application f_{z} : x ∈ X ↦ f(z, x) est submersive. Soient Λ un sous-ensemble compact de Z, Γ_{1} et Γ_{2} deux ensembles coniques fermés respectivement dans T^{∗}Y \ 0 et T^{∗}X \ 0 tels que:

∀λ ∈ Λ, f_{λ}^{∗}Γ_{1} ⊂ Γ_{2}

où f_{λ}^{∗}Γ_{1} := {(x,^{t}f′_{λ}(x)η) : (f_{λ}(x), η) ∈ Γ_{1}}. Donc pour tout λ ∈ Λ, f_{λ}^{∗}: D′_{Γ_{1}}(Y) → D′_{Γ_{2}}(X) est bien définie (cf. [17],th. 8.2.4).

Proposition A1. Soit (u_{j}) une suite de D′_{Γ_{1}}(Y) qui converge vers 0 pour la topologie de D′_{Γ_{1}}(Y) définie ci-dessus. Alors la suite d’applications g_{j}: Λ → D′_{Γ_{2}}(X), définie par g_{j}(λ) = f_{λ}^{∗}(u_{j}), pour tout j ∈ ℕ et λ ∈ Λ, converge uniformément vers 0, pour la topologie de D′_{Γ_{2}}(X) définie ci-dessus.

Proposition A2. Soit u ∈ D′_{Γ_{1}}(Y). L’application de Λ dans D′_{Γ_{2}}(X) qui associe à λ ∈ Λ f_{λ}^{∗}(u) est continue.

Lemme A1. D′_{Γ}(X), muni de ses semi-normes, est séquentiellement complet.

Lemme A2. Si on note Γ′_{2} := ⋃_{λ∈Λ} f_{λ}^{∗}Γ_{1} alors Γ′_{2} est un cône fermé dans T^{∗}X\0.

Proposition A3. Pour tout ψ ∈ C_{c}(Z), u ∈ D_{Γ_{1}}(Y), l’intégrale au sens de Riemann ∫_{Z} ψ(z)f_{z}^{∗}(u)dz dans D′_{Γ′_{2}}(X) (resp. D′(X)) muni de sa topologie naturelle (resp. forte) existe. Ces deux intégrales coïncident.

Soient X et Y deux variétés différentielles de dimension respectivement m et n. Soit Γ_{1} (resp. Γ_{2}) un cône fermé de T^{∗}X \ 0 (resp. T^{∗}Y \ 0). Soit Γ un cône fermé de T^{∗}(X × Y) \ 0 contenant Γ_{1} × Γ_{2}. Dans ces conditions l’application f : D′_{Γ_{1}}(X) × D′_{Γ_{2}}(Y) → D′_{Γ}(X × Y), (S, T) ↦ (S ⊗ T), est bien définie (cf. [17], th. 8.2.9).

Proposition A4. (i) Avec les hypothèses ci-dessus, l’application f est séparément séquentielement continue.

(ii) Avec les hypothèses de (i), on suppose de plus que X = Y et Γ_{1} ∩ (−Γ_{2}) = Ø. Soit δ l’application définie sur X à valeurs dans X × X par δ(x) = (x, x). Soit N_{δ} := {(η_{1}, η_{2}) ∈ ℝ^{2n} : η_{1} + η_{2} = 0}. Supposons que Γ ne rencontre pas N_{δ}. Alors l’application F: D′_{Γ_{1}}(X) × D′_{Γ_{2}}(X) → D′_{δ^{∗}Γ}(X), (S, T) ↦ δ^{∗}(S ⊗ T), qui est bien définie (cf. [17], th. 8.2.9 et th. 8.2.10), est séparément séquentiellement continue. F est appelé “produit de distributions”.

References

[1] van den Ban, E. P., The principal series for a reductive symmetric space I, H-fixed distribution vectors, Ann. Sci. Ec. Norm. Sup. 21 (1988), 359–412.

[2] —, The principal series for a reductive symmetric space II. Eisenstein integrals, J. Funct. Anal. 109 (1992), 331–441.

[3] Berline, N., E. Getzler, and M. Vergne, “Heat Kernels and Dirac Operators,” Springer-Verlag, Berlin Heidelberg, 1992.

[4] Bourbaki, N., “Variétés différentiables et analytiques, ” in “Fascicule de résultats, 1 à 7,” Eléments de Mathématiques XXXIII, Hermann, Paris, 1967.

[5] Brylinski, J., et P. Delorme, Vecteurs distributions H-invariants pour les séries principales généralisées d’espaces symétriques réductifs et prolongement méromorphe d’intégrales d’Eisenstein, Invent. math. 109 (1992), 619–664.

[6] Carmona, J., et P. Delorme, Base méromorphe de vecteurs distributions H -invariants pour les séries principales généralisées d’espaces symétriques réductifs: équation fonctionnelle, J. Funct. Anal. 122 (1994), 152–221.

[7] Delorme, P., Coefficients généralisés de séries principales sphériques et distributions sphériques sur G_{ℂ}/G_{ℝ}, Invent. Math. 105 (1991), 305–346.

[8] van Dijk, G., and M. Poel, The Plancherel formula for the pseudo-riemann-ian space SL(n, ℝ)/GL(n − 1, ℝ), Compos. Math. 58 (1986), 371–397.

[9] Erdelyi, A., “Higher transcendental functions,” vol. I. Mc Graw Hill, New York Toronto, 1953.

[10] Faraut, J., Distributions sphériques sur les espaces hyperboliques, J. math. pures et appl. 58 (1979), 369–444.

[11] Gangolli, R., and V. S. Varadarajan, Harmonic analysis of spherical functions on real reductive groups, in “Ergeb. Math. Grenzgeb., Vol.101, Springer-Verlag, Berlin, Heidelberg, New York, 1988.

[12] Harinck, P., “Fonctions généralisées sphériques sur un G_{ℂ}/G_{ℝ},” Thèse de doctorat, Université Paris-VI, 1988.

[13] —, Base de la série la plus continue de fonctions généralisées sphériques sur G_{ℂ}/G_{ℝ}, Preprint (Université Paris-VII).

[14] Harish-Chandra, Harmonic analysis on real reductive groups I, J. Func. Anal. 19 (1975), 104–204.

[15] —, Spherical functions on a semisimple Lie group I, Amer. J. Math. 80 (1958), 241–310.

[16] Heckman, G. J., and H. Schlichtkrull, Harmonic Analysis and Special functions on Symmetric Spaces, Perspectives in Mathematics, Vol.16, Academic Press, San Diego, New York, Boston, London, Sydney, Tokyo, Toronto, 1994.

[17] Hörmander, L., “The analysis of linear partial differential operators I, ” Second Edition, Springer-Verlag, Berlin, Heidelberg, New York, 1983.

[18] Knapp, A., and E. Stein, Interwining operators for semisimple groups II, Invent. Math. 60 (1980), 9–84.

[19] Kosters, M. T., and G. van Dijk, Spherical distributions on the pseudoriemannian space SL(n, ℝ)/GL(n − 1, ℝ), J. Func. Anal. 68 (1986), 168– 213.

[20] Molchanov, V. F., Harmonic analysis on semisimple symmetric spaces of rank one. Representation theory of Lie and Lie groups, Proceedings of the Fuji-Kawaguchiko Conference; World Scientific, Singapore, New Jersey, London, Hong Kong (1990), 184–205.

[21] Olafsson, G., Fourier and Poisson transformation associated to a semisimple symmetric space, Invent. math. 90 (1987), 605–629.

[22] Oshima, T., and T. Matsuki, Orbits on affine symmetric spaces under the action of the isotropy subgroups, J. Math. Soc. Japan. 32 (1980), 331–390.

[23] Oshima, T., and J. Sekiguchi, Eigenspaces of invariant differential operators on an affine symmetric space, Invent. math. 57 (1980), 1–81.

[24] Sano, S., Distributions sphériques invariantes sur les espaces symétriques semi-simples G_{ℂ}/G_{ℝ}, J. of Math. Kyoto Univ. 31 (1991), 377–417.

[25] Schlichtkrull, H., “Hyperfunctions and harmonic analysis on symmetric spaces, ” Progress in mathematics. Vol.49, Birkhäuser Verlag, Boston, Basel, Stuttgart, 1984.

[26] Tinfou, M., “Coefficients généralisés de séries principales sphériques relatifs aux espaces symétriques déployés,” Thèse de Doctorat, Université de la Méditerranée, Aix-Marseille II, 1996.

[27] Wallach, N., “Real reductive groups II, ” Academic Press, New York, London, 1992.

[28] Whitney. H., “Complex Analytic Varieties, ” Addison-Wesley, Reading, 1972.

Institut de Mathématiques de Luminy 163, avenue de Luminy - Case 907 13288 Marseille Cedex 9

Received May 19, 1998 and in final form May 7, 1999