Distributions à support compact et représentations unitaires

Dominique MANCHON Institut Elie Cartan - Université Henri Poincaré - CNRS - INRIA BP 239, 54506 Vandoeuvre cedex

                Adresse électronique : manchon@iecn.u-nancy.fr

Résumé : Dans cet article nous précisons deux notions introduites par Roger Howe [Hw] pour étudier les représentations unitaires des groupes de Lie : les représentations unitaires fortement traçables et le front d’onde d’une représentation unitaire. Nous montrons que pour toute distribution φ à support compact sur un groupe de Lie connexe dont le front d’onde ne rencontre pas l’opposé du front d’onde de la représentation π l’opérateur π(φ) est régularisant, généralisant ainsi un résultat de [M2]. De plus sous les mêmes hypothèses π(φ) est à trace si π est fortement traçable. Dans le cas où la représentation π est irréductible et associée par la méthode des orbites à une orbite Ω fermée et tempérée, nous montrons qu’elle est fortement traçable et nous étendons la formule des caractères aux opérateurs π(φ) pour les distributions φ à support compact dont le front d’onde vérifie la condition de transversalité ci-dessus.

Abstract : We develop in this article two notions due to R. Howe [Hw] related to unitary representations of Lie groups, namely strong trace class representations as well as the wave front set of a unitary representation. Generalizing a previous theorem [M2] we show that for any compactly supported distribution φ on a Lie connected group the wave front set of which does not intersect the opposite of the wave front set of the representation π the operator π(φ) is a smoothing operator, moreover a trace class operator if π is of strong trace class. In case the representation π is irreducible and associated to a closed and tempered coadjoint orbit Ω we show that it is of strong trace class, and we extend the character formula to the operators π(φ) for any compactly supported distribution φ satisfying the above transversality condition.

Mathematics Subject Classification : 22E30

Introduction

Dans la correspondance de Kirillov entre orbites et représentations le caractère de la représentation π est donné par une intégrale sur l’orbite coadjointe Ω correspondante. Nous nous proposons d’étendre cette formule des caractères à certains opérateurs π(φ) où φ est une distribution à support compact sur le groupe.

Le problème peut se formuler brièvement comme suit : soit G un groupe de Lie connexe d’algèbre de Lie 𝔤, et soit π une représentation unitaire irréductible de G associée à une orbite coadjointe Ω fermée, admettant un caractère-distribution donné par une intégrale orbitale “à la Kirillov” :

Tr π(φ) = κ(π) ∫_{Ω} F(P_{Ω}^{−1}.j_{G}.(φ ∘ exp))(ω) dβ_{Ω}(ω)

où κ(π) est un entier, j_{G} le jacobien de l’exponentielle et P_{Ω} est une fonction analytique. Si φ est une distribution à support compact sur G on peut définir l’opérateur π(φ) sur les vecteurs C^{∞} de la représentation. Or il résulte des travaux de J-Y. Charbonnel [Cha 2,3] que l’orbite Ω, étant fermée, est tempérée. Donc si le front d’onde W F (φ) en l’élément neutre ne rencontre pas le cône asymptote à Ω et si le support de φ est assez petit, l’intégrale orbitale converge. Peut-on pour autant en déduire que l’opérateur π(φ) est à trace et étendre la formule des caractères aux opérateurs de ce type?

Nous donnons une réponse affirmative à cette question en replaçant ce problème dans un cadre général tracé par Roger Howe [Hw] autour des notions de front d’onde d’une représentation unitaire π et de représentation fortement traçable : Le front d’onde de π est une partie conique fermée du fibré cotangent T^{∗}G privé de la section nulle, invariante par translation à gauche et à droite, définie comme l’adhérence de la réunion des fronts d’onde W F (Tr_{π}(T)) où T parcourt l’ensemble des opérateurs à trace sur l’espace de π, et où Tr_{π}(T)(g) = Tr(π(g)T). Une représentation π est fortement traçable s’il existe un élément v formellement positif de l’algèbre enveloppante U(𝔤) tel que π(v) soit essentiellement auto-adjoint et inversible sur l’espace des vecteurs C^{∞}, et d’inverse à trace.

Dans la première partie nous donnons trois critères pour qu’une représentation unitaire π soit fortement traçable (proposition I.1). En particulier π est fortement traçable si et seulement s’il existe un entier m tel que pour toute fonction φ ∈ C_{c}^{m}(G) l’opérateur π(φ) est à trace. L’existence de représentations traçables non fortement traçables est un problème ouvert (aimablement communiqué par R. Howe).

Dans la seconde partie nous rappelons quelques résultats de R. Howe sur le front d’onde d’une représentation unitaire. Le lien entre ces deux notions est le suivant : si π est une représentation unitaire fortement traçable, son front d’onde en l’élément neutre coïncide avec le front d’onde de son caractère-distribution [Hw theorem 1.8]. La démonstration de ce résultat étant donnée par R. Howe dans le cas unimodulaire, nous montrons qu’elle reste valable dans le cas général (théorème II.2).

La troisième partie est consacrée à la démonstration du résultat principal (théorème III.7) : pour toute distribution φ à support compact sur G telle que :

W F (φ) ∩ −W F_{π} = ∅,

l’opérateur a priori non borné π(φ) que l’on peut définir sur le domaine des vecteurs C^{∞} est en fait borné, et même régularisant, c’est-à-dire qu’il envoie l’espace de la représentation dans l’espace des vecteurs C^{∞}. Dans le cas où π est de plus fortement traçable, l’opérateur π(φ) est à trace.

L’ingrédient essentiel de la démonstration est le noyau de la chaleur (p_{t})_{t>0} sur le groupe, qui fournit une famille π(p_{t}) croissante d’opérateurs bornés qui converge fortement vers l’identité. Pour tout opérateur de Hilbert-Schmidt T sur l’espace de la représentation respectant le domaine de π(φ) on montre que π(φ)T est de Hilbert-Schmidt et que π(p_{t} ∗ φ)T converge vers π(φ)T en norme de Hilbert-Schmidt lorsque t → 0. Plus précisément nous montrons que le front d’onde de φ^{∗} ∗ φ ne rencontre pas W F_{π}, ce qui nous permet de considérer le produit des deux distributions Tr_{π}(T T^{∗}) et φ^{∗} ∗ φ, et nous démontrons l’égalité :

∥π(φ)T ∥_{2}^{2} =< Tr_{π}(T T^{∗}).(φ^{∗} ∗ φ), 1 > .

Ceci entraîne le fait que π(φ) est borné (corollaire III.5). Pour toute partie conique fermée Γ de T^{∗}G − {0} ne rencontrant pas W F_{π} on désigne par E′_{Γ}(G) l’espace des distributions à support compact dont le front d’onde est inclus dans Γ, muni d’une topologie localement convexe à base non dénombrable de voisinages ([Dui], [Ga]) dont nous rappelons la définition en III.1. Nous ne pouvons pas montrer en général la continuité séquentielle de la correspondance φ → π(φ) de E′_{Γ}(G) dans l’espace des opérateurs bornés. Mais lorsque la représentation est fortement traçable cette correspondance est séquentiellement continue de E′_{Γ}(G) dans l’espace des opérateurs à trace.

Dans la quatrième partie nous montrons (théorème IV.1) que toute représentation unitaire irréductible π associée à une orbite coadjointe Ω par une “bonne” formule des caractères de Kirillov est fortement traçable. Plus précisément nous supposons que la représentation π vérifie l’hypothèse suivante (j_{G} désignant le jacobien de l’exponentielle : cf notations 0.1) : Hypothèse (H) : π est associée à une orbite coadjointe fermée Ω par la méthode des orbites de Kirillov, de la manière suivante : il existe un voisinage exponentiel U de 0 dans 𝔤, un entier strictement positif κ(π) et une fonction P_{Ω} analytique partout non nulle sur U et telle que P (0) = 1, tels que la formule des caractères :

(∗)  Tr π(T) = κ(π) ∫_{Ω} F(P_{Ω}^{−1}.j_{G}.(T ∘ exp))(ω) dβ_{Ω}(ω)

soit vérifiée pour toute fonction T de classe C^{∞} à support compact inclus dans exp U. R. Howe a indiqué dans le cas nilpotent comment calculer le front d’onde d’une telle représentation [Hw proposition 2.2] :

W F_{π}(e) = −AC(Ω)

où AC(Ω) désigne le cône asymptote à l’orbite. Nous donnons une démonstration de ce résultat et nous montrons (théorème IV.3.1)) que l’inclusion : W F_{π}(e) ⊂ −AC(Ω) reste valable dans le cadre général de l’hypothèse (H). Cette dernière inclusion est un cas particulier d’un résultat général sur le front d’onde de la transformée de Fourier d’une mesure positive tempérée [D-V lemme 4]. Nous ignorons si l’égalité vérifiée dans le cas nilpotent reste valable dans le cadre général de l’hypothèse (H).

Utilisant le théorème III.7 nous montrons (théorème IV.3.2)) que la formule des caractères est vérifiée pour tous les opérateurs π(φ) où φ est une distribution à support compact contenu dans un voisinage convenable de l’élément neutre telle que :

W F (φ) ∩ −W F_{π} = ∅.

En particulier dans le cas des opérateurs pseudo-différentiels au sens de [M2], qui sont des opérateurs π(φ) où φ est une distribution à support compact et à support singulier réduit à {e}, la condition ci-dessus implique au vu du théorème IV.3 :

W F (φ) ∩ AC(Ω) = ∅.

Dans la cinquième partie nous comparons nos résultats avec un résultat antérieur [M2 théorème III.1] dont la démonstration était incomplète : ce résultat apparaît ici comme une conséquence directe du théorème III.7, alors que la démonstration succincte qui en est donnée dans [M2] s’appuie quant à elle implicitement sur le théorème IV.3.2) du présent article. Nous donnons enfin une application de nos résultats à une conjecture de M. Duflo et M. Vergne [D-V] sur la restriction d’une représentation π fortement traçable à un sousgroupe fermé transverse au front d’onde de π.

Remerciements : Je remercie vivement Detlef Müller d’avoir attiré mon attention sur cette lacune dans la démonstration du théorème III.1 de mon article antérieur [M2], ainsi que pour ses remarques utiles concernant la troisième partie. Je remercie également Abderrazak Bouaziz pour d’utiles discussions concernant la dernière application (paragraphe V.2).

Notations et rappels :

(0.1). On désignera par G un groupe de Lie réel connexe de dimension n, d’algèbre de Lie 𝔤 et de dual 𝔤^{∗}. On désigne par dx une mesure de Lebesgue sur 𝔤, et par dg une mesure de Haar à gauche sur G normalisée de telle façon que le jacobien j_{G} de l’exponentielle s’écrive :

j_{G}(x) = |det(\frac{1 − e^{− ad x}}{ad x})|

On désigne par Δ_{G} = det Ad g la fonction module. Par le choix de la mesure de Haar dg nous identifierons l’espace C^{∞}(G) et l’espace des densités C^{∞} sur G. Par dualité l’espace des distributions sur G s’identifie à l’espace des fonctions généralisées sur G. (0.2). Soit U un voisinage de 0 dans 𝔤 tel que l’exponentielle soit un difféomorphisme de U sur son image. Pour toute distribution φ sur G à support compact inclus dans exp U on définit la distribution φ̃ par :

φ̃ = j_{G}. exp^{∗} φ

(0.3). Soit V un ouvert de G. Soit m ∈ ℕ ∪ {+∞}. On désigne par C^{m}(V) (resp. C_{c}^{m}(V)) l’espace des fonctions (resp. des fonctions à support compact) m fois différentiables sur V. (0.4). On désigne par D′(V) l’espace des distributions sur V, et par E′(V) l’espace des distributions à support compact sur V. On met sur E′(V) la topologie limite inductive des D′(K) où K parcourt l’ensemble des compacts de V. En particulier une suite φ_{k} converge dans E′(V) si et seulement si elle converge dans D′(V) et tous les supports des φ_{k} sont contenus dans un même compact K. (0.5). On désignera par T^{∗}G\{0} le fibré cotangent de G privé de la section nulle. Une partie C de T^{∗}G\{0} est conique si pour tout (g, ξ) ∈ C, (g, tξ) ∈ C pour tout réel t > 0. On notera alors −C l’ensemble des {(g, −ξ), (g, ξ) ∈ C}. (0.6). Soit H un espace de Hilbert, qui sera toujours supposé séparable. On désigne par J_{p} le p^{ième} idéal de Schatten de H. En particulier J_{∞} désigne l’espace des opérateurs bornés sur H, J_{1} et J_{2} les idéaux de J_{∞} formés des opérateurs à trace et des opérateurs de Hilbert-Schmidt respectivement. (0.7). On désignera par π une représentation unitaire fortement continue du groupe de Lie G dans un espace de Hilbert séparable qui sera noté H_{π}. On désignera alors par H_{π}^{∞} l’espace des vecteurs indéfiniment différentiables de la représentation. L’espace H_{π}^{∞} est constitué des vecteurs u tels que pour tout v ∈ H_{π} le coefficient :

C_{u,v} : g ⟼< π(g)u, v >

soit C^{∞} sur G. (0.8). On définit pour tout φ ∈ E′(G) l’opérateur (en général non borné) π(φ) de domaine H_{π}^{∞} par la formule :

< π(φ)u, v >=< φ, C_{u,v} >

(Voir [Jø] pour une définition dans le cadre général des représentations dans un espace de Banach). La correspondance φ ↦ π(φ) est continue de E′(G) vers l’espace des opérateurs de domaine H_{π}^{∞} muni de la topologie de la convergence faible généralisée au sens de Kato. (0.9). Pour toute distribution φ ∈ E′(G) on pose :

φ^{∗} = Δ_{G}.\overline{i^{∗}φ}

où Δ_{G} désigne la fonction module et i le difféomorphisme g ↦ g^{−1}. On a pour tout couple (u, v) dans H_{π}^{∞} :

< π(φ)u, v >=< u, π(φ^{∗})v > .

Proposition 0.1. Pour tout couple (S, T) de distributions à support compact sur G et pour tout u vecteur C^{∞} de la représentation on a :

π(S ∗ T)u = π(S)π(T)u

Démonstration. C’est clair dans le cas où S, T sont dans C_{0}^{∞}(G). Soit U un voisinage exponentiel de 0 dans 𝔤. On se donne une fonction α ∈ C_{0}^{∞}(exp U) positive d’intégrale 1, et on considère l’approximation de l’identité :

α_{k}(exp x) = k^{n}α(exp(kx))

Posons T_{k} = α_{k}∗T et S_{k} = α_{k}∗S.La distribution S_{k}∗T_{k} converge vers S∗T pour la topologie de E′(G). Pour tout u ∈ H_{π}^{∞} et pour tout v le scalaire < π(S_{k})π(T_{k})u, v > converge donc vers < π(S)π(T)u, v >, et < π(S_{k} ∗ T_{k})u, v > converge vers < π(S ∗ T)u, v >. La proposition découle alors de l’égalité :

π(S_{k} ∗ T_{k}) = π(S_{k}) ∘ π(T_{k})
•

I. Représentations fortement traçables

Soit G un groupe de Lie, 𝔤 son algèbre de Lie et U(𝔤) son algèbre envelopppante, que nous identifierons avec l’algèbre des distributions de support {e} sur G. On désigne par v ↦ v^{∗} l’unique anti-automorphisme de U(𝔤) tel que x^{∗} = −x pour x ∈ 𝔤. Un élément v ∈ U(𝔤) est dit formellement positif [Hw § I] s’il s’écrit sous la forme :

u = ∑_{i=1}^{k} u_{i}^{∗}u_{i}

Un exemple d’élément formellement positif est le laplacien :

Δ = − ∑_{1}^{n} X_{i}^{2}

pour une base (X_{1}, …, X_{n}) de 𝔤. Une représentation unitaire π de G est dite fortement traçable [Hw § I] s’il existe un élément u ∈ U(𝔤) formellement positif tel que π(u) soit inversible sur H_{π}^{∞} et d’inverse à trace.

Proposition I.1. Soit π une représentation unitaire d’un groupe de Lie G. Les quatre conditions suivantes sont équivalentes :

1) π est fortement traçable

2) Il existe un entier s_{0} tel que pour tout entier s ≥ s_{0} l’opérateur π(1 + Δ)^{−s} est à trace.

3) Il existe un voisinage V de e dans G et un entier m tel que pour toute fonction φ ∈ C_{c}^{m}(V) l’opérateur π(φ) est à trace.

4) Il existe un entier m tel que pour tout φ ∈ C_{c}^{m}(G) l’opérateur π(φ) est à trace.

Démonstration. On montre facilement que si u est formellement positif il en est de même de u^{k} pour tout k. 2)⟹ 1) est alors immédiat. L’implication 1)⟹ 4) est due à R. Howe : supposons que π soit fortement traçable, et soit v ∈ U(𝔤) formellement positif tel que π(v) soit inversible d’inverse à trace. Alors si φ ∈ C_{c}^{m}(G) avec m assez grand la convolée v ∗φ est une fonction continue à support compact sur G. On déduit 4) de l’égalité entre opérateurs bornés :

π(φ) = π(v)^{−1}π(v ∗ φ).

4)⟹ 3) étant immédiat, reste l’implication 3)⟹ 2). On suppose que 3) est vérifiée, et on restreint s’il le faut le voisinage V de façon à ce que l’opérateur de convolution par (1 + Δ)^{s} soit elliptique sur V. Il existe alors deux fonctions φ et ψ dans C_{c}^{2s−n−1}(V) et C_{c}^{∞}(V) respectivement, telles que :

(1 + Δ)^{s} ∗ φ = δ_{0} + ψ.

L’opérateur π(1 + Δ) est essentiellement auto-adjoint [Ne-St th. 2.2], et son spectre est contenu dans [1, +∞[. D’après le théorème spectral cet opérateur est inversible sur son domaine et son inverse est borné. On peut donc écrire :

π(1 + Δ)^{−s} = π(φ) − π(1 + Δ)^{−s}π(ψ)

Si l’entier s est assez grand pour que l’on ait 2s−n−1 ≥ m il est donc clair que π(1+Δ)^{−s} est à trace.

•

Remarque : considérons la famille d’espaces de Sobolev H_{π}^{t} introduits par R. Goodman [Go] définis par complétion de H_{π}^{∞} pour les normes :

∥u∥_{t} = ∥π(1 + Δ)^{\frac{t}{2}} u∥

On voit que la condition 2) de la proposition entraîne que la famille des espaces H_{π}^{t} est nucléaire, c’est-à-dire que l’inclusion de H_{π}^{t} dans H_{π}^{t−s} est à trace pour s assez grand. Le pas s peut ici être choisi indépendant de t.

II. Front d’onde d’une représentation

Dans ce paragraphe nous rappelons la notion de front d’onde d’une représentation unitaire et nous donnons la démonstration du fait que le front d’onde d’une représentation fortement traçable et le front d’onde de son caractère coïncident en l’élément neutre. Nous reprenons simplement la démonstration que R. Howe donne dans le cas unimodulaire et nous montrons qu’elle est valable en général. Nous avons choisi d’enlever la section nulle du front d’onde, comme dans le cas du front d’onde d’une distribution. Soit π une représentation unitaire d’un groupe de Lie G. Pour tout T ∈ J_{1}(H_{π}) on considère la fonction :

Tr_{π}(T) : g ⟶ Tr(π(g)T ).

que l’on peut aussi voir comme une distribution sur G. Le front d’onde W F_{π} est alors défini comme l’adhérence dans T^{∗}G\{0} de la réunion :

⋃_{T ∈J_{1}} W F (Tr_{π}(T)).

L’ensemble W F_{π} est invariant par translation à gauche et à droite. Il est donc entièrement déterminé par son intersection W F_{π}^{0} avec T_{e}^{∗}G, qui est un cône fermé Ad^{∗} Ginvariant dans 𝔤^{∗} privé de {0}. Le front d’onde d’une représentation est caractérisé par les propriétés suivantes :

Proposition II.1 (R. Howe). Soit π une représentation unitaire d’un groupe de Lie G d’algèbre de Lie 𝔤, soit U un ouvert de 𝔤^{∗} et soit U l’ouvert invariant par translation à gauche de T^{∗}G tel que U ∩ T_{e}^{∗}G = U. Alors les conditions suivantes sont équivalentes :

1) U ∩ W F_{π}^{0} = ∅.

2) Pour tout T ∈ J_{1}, pour tout voisinage V de e dans G et pour tout couple (φ_{α}, ψ_{α}) dépendant de manière C^{∞} d’un paramètre α ∈ ℝ^{k} où φ_{α} ∈ C_{c}^{∞}(V), et ψ_{α} ∈ C^{∞}(G) à valeurs réelles telles que dψ_{α}(supp φ_{α}) ⊂ U, l’intégrale :

I(φ_{α}, ψ_{α}, T)(t) = ∫_{G} Tr_{π}(T)(g)φ_{α}(g)e^{itψ_{α}(g)} dg

est à décroissance rapide lorque t → +∞, et on a les estimations :

sup_{t≥1} t^{N}|I(φ_{α}, ψ_{α}, T)(t)| ≤ C_{N}(φ_{α}, ψ_{α})∥T ∥_{1}

les constantes C_{N} pouvant être choisies indépendamment de α lorsque α varie dans un compact de ℝ^{k}.

3) pour tout voisinage V de e dans G, pour tout couple (φ_{α}, ψ_{α}) dépendant de manière C^{∞} d’un paramètre α ∈ ℝ^{k} où φ_{α} ∈ C_{c}^{∞}(V), et ψ_{α} ∈ C^{∞}(G) à valeurs réelles telles que dψ_{α}(supp φ_{α}) ⊂ U, la norme d’opérateur de π(φ_{α}e^{itψ_{α}}) est à décroissance rapide lorque t → +∞, et les semi-normes :

γ_{N}(φ_{α}, ψ_{α}) = sup_{t≥1} t^{N}∥π(φ_{α}e^{itψ_{α}})∥_{∞}

sont bornées uniformément lorque α varie dans un compact de ℝ^{k}.

Démonstration. d’après l’égalité :

I(φ_{α}, ψ_{α}, T)(t) = Tr(π(φ_{α}e^{itψ_{α}})T )

et la dualité entre J_{1} et J_{∞} :

∀A ∈ J_{∞}, ∥A∥_{∞} = sup_{T ∈J_{1}−\{0\}} \frac{| Tr AT |}{∥T ∥_{1}},

les conditions 2) et 3) sont équivalentes, et dans la condition 2) les meilleures constantes sont :

C_{N}(φ_{α}, ψ_{α}) = γ_{N}(φ_{α}, ψ_{α}).

Par ailleurs 1) implique (par bi-invariance du front d’onde W F_{π}) que U ne rencontre pas W F_{π}. Ceci entraîne 2) de par la définition du front d’onde de Tr_{π}(T) [Dui proposition 1.3.2]. Réciproquement 2) implique que U est disjoint du front d’onde de Tr_{π}(T) pour tout T ∈ J_{1}, ce qui entraîne 1) par bi-invariance de W F_{π}.

•

Theorème II.2 (R.Howe). Soit π une représentation unitaire fortement traçable d’un groupe de Lie G. Soit χ_{π} le caractère distribution de π, et soit W F^{0}(χ_{π}) l’intersection du front d’onde de χ_{π} avec T_{e}^{∗}(G). Alors on a :

\begin{aligned}W F (χ_{π}) & ⊂ W F_{π} \\ W F_{π}^{0} & = W F^{0}(χ_{π}). \end{aligned}

Démonstration. Pour montrer la première inclusion, on considère un élément v ∈ U(𝔤) formellement positif tel que π(v) soit inversible et d’inverse T dans J_{1}. Pour tout φ ∈ C_{c}^{∞}(G) on a :

χ_{π}(φ) = Tr(π(φ)π(v)T )
= Tr(π(φ ∗ v)T )
= Tr_{π}(T)(φ ∗ v),

c’est-à-dire :

χ_{π} = Tr_{π}(T) ∗ v^{∗}.

Comme la convolution par v^{∗} respecte le front d’onde on a les inclusions :

W F (χ_{π}) ⊂ W F (Tr_{π}(T)) ⊂ W F_{π}.

Réciproquement soit ξ non nul dans 𝔤^{∗}\W F^{0}(χ_{π}), soit U un voisinage relativement compact de ξ disjoint de W F^{0}(χ_{π}), et soit U le sous-ensemble de T^{∗}G construit à partir de U par translation à gauche. Comme W F (χ_{π}) est fermé il existe un voisinage V de e dans G tel que U ∩ T^{∗}V soit disjoint de W F (χ_{π}).

Soit V_{1} un voisinage symétrique de e dans G tel que V_{1}^{2} ⊂ V, que l’on supposera relativement compact, et soit φ ∈ C_{c}^{∞}(V_{1}), ψ ∈ C^{∞}(V) telles que dψ(supp φ) ⊂ U. Alors χ_{π}(L_{g}.(φe^{itψ})) est à décroissance rapide lorsque t → +∞, et ceci uniformément pour tout g ∈ V_{1}.

On pose φ_{t} = φe^{itψ}, et on calcule explicitement la norme de Hilbert-Schmidt de π(φ_{t}), ce qui nous donne :

∥π(φ_{t})∥_{2}^{2} = ∫_{G} φ_{t}^{∗}(y)χ_{π}(L_{y}φ_{t}) dy

qui est donc à décroissance rapide d’après ce qui précède (ici dy désigne une mesure de Haar à gauche sur G). C’est vrai aussi pour la norme ∥π(φ_{t})∥_{∞}, et il est clair que si les fonctions φ et ψ dépendent de manière C^{∞} d’un paramètre auxiliaire α variant dans un compact de ℝ^{k} les semi-normes :

sup_{t≥1} t^{N}∥π(φ_{t})∥_{∞}

sont bornées indépendamment de α. Le critère 3) de la proposition II.1 dit alors que U est disjoint de W F_{π}^{0}, ce qui démontre le théorème.

•

Remarque : l’hypothèse de traçabilité forte n’intervient que dans la démonstration de la première inclusion. Il est donc vrai que pour toute représentation traçable on a :

W F_{π}^{0} ⊂ W F^{0}(χ_{π}).

III. Une classe d’opérateurs régularisants

III.1. Quelques espaces de distributions

Nous rappelons ici la définition et quelques propriétés des espaces D′_{Γ}(X) introduits par L. Hörmander ([Hr §2.5], [Ga], [Dui]), ainsi que de leurs variantes à support compact E′_{Γ}(X).

Soit X une variété, soit Γ une partie conique fermée de l’espace cotangent T^{∗}X privé de la section nulle. On notera pour tout x ∈ X :

Γ_{x} = Γ ∩ T_{x}^{∗}X.

On considère l’espace D′_{Γ}(X) des distributions à support compact sur X dont le front d’onde est contenu dans Γ. On met sur D′_{Γ}(X) la topologie (localement convexe à base non dénombrable de voisinages) définie par les semi-normes de la topologie de D′(X) et les semi-normes :

C_{N,α,ψ}(φ) = sup_{τ≥1} τ^{N}| < e^{−iτψ}α, φ > |

où N est un entier positif, α ∈ C_{c}^{∞}(X) et ψ ∈ C^{∞}(X) est une fonction à valeurs réelles telle que dψ(g) ∉ Γ pour tout g ∈ supp u [Dui§ 1.3]. On rappelle [Dui theorem 1.3.6] que si Γ_{1} et Γ_{2} sont deux parties coniques fermées de l’espace cotangent T^{∗}X privé de la section nulle telles que Γ_{1} ∩ −Γ_{2} = 0 le produit des fonctions C^{∞} s’étend en une unique opération bilinéaire continue :

\begin{matrix}D′_{Γ_{1}}(X) × D′_{Γ_{1}}(X) & ⟶ D′ ; \overline{Γ_{1}+Γ_{2}}(X) \\ (u, v) & ⟼ uv. \end{matrix}

On notera : E′_{Γ}(X) l’ensemble des distributions à support compact appartenant à D′_{Γ}(X). On met sur E′_{Γ}(X) la topologie limite inductive des D′_{Γ}(K) où K parcourt les compacts de X. C’est un espace localement convexe à base non dénombrable de voisinages, et il est clair que le produit défini ci-dessus est continu de E′_{Γ_{1}}(X) × E′_{Γ_{2}}(X) dans E′ ; \overline{Γ_{1}+Γ_{2}}(X).

Proposition III.1 [Dui proposition 1.3.4]. Soit f une application C^{∞} d’une variété X vers une variété Y. Pour toute partie conique fermée Γ de T^{∗}X\{0} on considère :

f_{∗}Γ = {(y, η) ∈ T^{∗}Y \{0}/∃x ∈ X, y = f(x) et (x, f^{∗}η) ∈ Γ}.

Alors l’application f se prolonge en une application linéaire continue :

f_{∗} : E′_{Γ}(X) ⟶ E′ ; \overline{f_{∗}Γ}(Y),

et si l’application f est propre elle se prolonge en une application linéaire continue :

f_{∗} : D′_{Γ}(X) ⟶ D′ ; \overline{f_{∗}Γ}(Y).

Démonstration. La topologie de D′_{Γ}(X) est définie par les semi-normes :

\begin{aligned}C_{u}(φ) & = | < φ, u > | \\ C_{N,α,ψ}(φ) & = sup_{t≥1} t^{N}| < φ, αe^{−itψ} > | \end{aligned}

pour u, α ∈ C_{c}^{∞}(X), N ∈ ℕ et ψ ∈ C^{∞}(X) telle que dψ(supp α) ∩ Γ = ∅. Si f est propre u ∘ f et α ∘ f sont dans C_{c}^{∞}(X), et on a égalité entre semi-normes :

C_{u}(f_{∗}φ) = C_{u∘f}(φ), C_{N,α,ψ}(f_{∗}u) = C_{N,α∘f,ψ∘f}(u)

où cette fois-ci u, α ∈ C_{c}^{∞}(Y), N ∈ ℕ et ψ ∈ C^{∞}(Y) telle que dψ(supp α) ∩ f_{∗}Γ = ∅. La composition des différentielles :

d_{x}(ψ ∘ f) = f^{∗}(d_{f(x)}ψ)

et la définition de f_{∗}Γ permettent de conclure à la continuité de f_{∗} : D′_{Γ}(X) ⟶ D′ ; \overline{f_{∗}Γ}(Y). Le passage par limite inductive au cas des distributions à support compact est alors immédiat.

III.2. Front d’onde et convolution

Nous montrons ici un résultat sur le front d’onde de la convolée de deux distributions sur un groupe de Lie G dont l’une est à support compact. Ce résultat découle directement de la proposition III.1.

Proposition III.2. Soient φ et ψ deux distributions sur un groupe de Lie G dont l’une est à support compact, et soit z ∈ G. Alors le front d’onde de φ ∗ ψ en z vérifie :

W F_{z}(φ ∗ ψ) ⊂ \overline{⋃_{xy=z} R_{y^{−1}}^{∗}W F_{x}(φ) ∩ L_{x^{−1}}^{∗}W F_{y}(ψ)}

où l’adhérence est prise dans T_{z}^{∗}G − {0}. De plus si Γ′ et Γ′′ sont deux parties coniques fermées de T^{∗}G\{0} et si on considère la partie conique fermée Γ de T^{∗}G\{0} définie par :

Γ_{z} = \overline{⋃_{xy=z} R_{y^{−1}}^{∗}Γ′_{x} ∩ L_{x^{−1}}^{∗}Γ′′_{y}}

la correspondance (φ, ψ) ↦ φ ∗ ψ :

E′_{Γ′}(G) × E′_{Γ′′}(G) ⟶ E′_{Γ}(G)

est séquentiellement continue.

Démonstration. l’application produit :

m : G × G ⟶ G

se prolonge à l’espace D′_{m}(G × G) des distributions u sur G × G telles que la restriction de m au support de u est propre :

m_{∗} : D′_{m}(G × G) ⟶ D′(G).

En particulier si φ ou ψ est à support compact sur G, le produit tensoriel φ ⊗ ψ appartient à D′_{m}(G × G) et on a par définition du produit de convolution :

φ ∗ ψ = m_{∗}(φ ⊗ ψ).

Soient Γ, Γ′ et Γ′′ comme dans l’énoncé de la proposition. En appliquant la proposition III.1 on voit que la correspondance :

\begin{matrix}E′_{Γ′×Γ′′}(G × G) & ⟶ E′ ; \overline{m_{∗}(Γ′×Γ′′)}(G) \\ φ ⊗ ψ & ⟼ φ ∗ ψ \end{matrix}

est continue. Par ailleurs la correspondance bilinéaire :

\begin{matrix}D′_{Γ′(G)} × D′_{Γ′′(G)} & ⟶ D′ ; \overline{Γ′×Γ′′}(G × G) \\ (φ, ψ) & ⟼ φ ⊗ ψ \end{matrix}

est séquentiellement continue [Ga], et on voit par passage à la limite inductive sur les compacts que c’est également vrai en remplaçant D′ par E′. Il suffit donc de montrer que :

\overline{m_{∗}(Γ′ × Γ′′)} ⊂ Γ.

La différentielle du produit s’écrit :

Dm(x, y; X, Y) = (xy, (R_{y})_{∗}X + (L_{x})_{∗}Y).

Sa transposée, de T_{xy}^{∗}G vers T_{(x,y)}^{∗}(G × G) s’écrit donc :

m^{∗}(xy, η) = (x, y; (R_{y}^{∗} ⊗ L_{x}^{∗})δη),

où δ est la transposée de l’opération d’addition dans T_{xy}G. On voit donc que :

\begin{aligned}(m^{∗})^{−1}(Γ′_{x} × Γ′′_{y}) & = \{(xy, η)/δη ∈ R_{y^{−1}}^{∗}Γ′_{x} × R_{x^{−1}}^{∗}Γ′′_{y}\} \\ & ⊂ \{(xy, η)/η ∈ R_{y^{−1}}^{∗}Γ′_{x} ∩ R_{x^{−1}}^{∗}Γ′′_{y}\}. \end{aligned}

Donc \overline{m_{∗}(Γ′ × Γ′′)} ⊂ Γ, ce qui montre la proposition.

•

Par bi-invariance du front d’onde d’une représentation unitaire on obtient immédiatement le résultat suivant :

Corollaire III.3.

1) Soit π une représentation unitaire du groupe de Lie G, et soient φ et ψ deux distributions dans E′(G) telles que W F (φ) et W F (ψ) ne rencontrent pas −W F_{π}. Alors W F (φ ∗ ψ) ne rencontre pas non plus −W F_{π}.

2) Soient Γ_{1} et Γ_{2} deux parties coniques fermées de T^{∗}G\{0}, et soit G une partie conique fermée bi-invariante de T^{∗}G\{0} contenant Γ_{1} et Γ_{2}. Alors le produit de convolution est séquentiellement continu de E′_{Γ_{1}}(G) × E′_{Γ_{2}}(G) dans E′_{G}(G).

III.3. Application à l’étude des opérateurs π(φ)

Nous avons défini dans l’introduction l’opérateur non borné π(φ) pour une représentation unitaire π d’un groupe de Lie G et une distribution à support compact φ sur G. Nous donnons ici une condition suffisante, portant sur le front d’onde de φ, pour que π(φ) soit régularisant, et nous montrons que dans le cas où la représentation π est fortement traçable, la même condition implique que π(φ) est un opérateur à trace.

Theorème III.4. Soit π une représentation unitaire d’un groupe de Lie G et Γ une partie conique fermée de l’espace cotangent T^{∗}G privé de la section nulle ne rencontrant pas −W F_{π}. Alors tout opérateur T ∈ J_{2}(H_{π}) laissant le domaine de π(φ) invariant définit une correspondance linéaire séquentiellement continue :

\begin{matrix}R_{T} : E′_{Γ}(G) & ⟶ J_{2} \\ φ & ⟼ π(φ)T \end{matrix}

Démonstration. On se donne une distribution φ ∈ E′_{Γ}(G) et on considère le laplacien :

Δ = − ∑_{i=1}^{n} X_{i}

où (X_{1}, …, X_{n}) est une base de 𝔤, et on considère le noyau de la chaleur p_{t} = e^{−tΔ}δ associé ([Ne], [Hu], [Rob],...). C’est une famille (p_{t})_{t>0} de fonctions C^{∞} sur G qui vérifie :

1) p_{t}^{∗} = p_{t}

2) ∥p_{t}∥_{1} = 1

3) p_{t}(g) > 0 pour tout g ∈ G

4)p_{t} ⟶_{t→0} δ dans D′(G)

5)p_{t} ∗ p_{s} = p_{t+s} (propriété de semi-groupe).

Soit π une représentation unitaire de G. Alors [Ne § 8 theorem 4] l’opérateur π(p_{t}) est régularisant. On sait aussi [Ne-St theorem 2.2] que π(Δ) est essentiellement auto-adjoint (et positif). On peut donc écrire, grâce au théorème spectral :

\begin{aligned}π(Δ) & = ∫_{0}^{+∞} λ dE(λ) \\ π(p_{t}) & = ∫_{0}^{+∞} e^{−tλ} dE(λ) \end{aligned}

On voit ainsi que (π(p_{t}))_{t→0} est une famille croissante d’opérateurs bornés qui converge fortement vers l’identité. On calcule alors la norme de Hilbert-Schmidt de π(p_{t})π(φ)T pour tout T ∈ J_{2} laissant invariant le domaine de π(φ) :

\begin{aligned}∥π(p_{t})π(φ)T ∥_{2}^{2} & = Tr(π(p_{t})π(φ)T T^{∗}π(φ^{∗})π(p_{t})) \\ & = Tr_{π}(T T^{∗})(φ^{∗} ∗ p_{2t} ∗ φ). \end{aligned}

Par bi-invariance du front d’onde de la représentation, −W F_{π} ∩ W F (φ^{∗}) = ∅. D’après le corollaire III.3 le front d’onde de φ^{∗} ∗ φ ne rencontre pas −W F_{π}. D’après l’hypothèse du théorème il est donc licite d’effectuer le produit de la distribution φ^{∗} ∗φ par la distribution Tr_{π}(T T^{∗}), et on a :

Tr_{π}(T T^{∗})(φ^{∗} ∗ p_{2t} ∗ φ) ⟶_{t→0} < Tr_{π}(T T^{∗}).(φ^{∗} ∗ φ), 1 > .

Autrement dit ∥π(p_{t})π(φ)T ∥_{2}^{2} admet une limite ℓ lorsque t tend vers 0. D’autre part, si (e_{i}) désigne une base orthonormée de H_{π} contenue dans le domaine de π(φ) on a :

∥π(p_{t})π(φ)T ∥_{2}^{2} = ∑_{i≥0} < π(p_{2t})π(φ)T e_{i}, π(φ)T e_{i}) > .

On en déduit d’après le théorème de convergence monotone (puisque π(p_{2t}) est croissante) que la somme :

∑_{i≥0} ∥π(φ)T e_{i}∥^{2}

converge vers la limite ℓ définie ci-dessus. Il résulte alors de [DS lemma XI.9.32] que l’opérateur π(φ)T est dans J_{2} et que :

∥π(φ)T ∥_{2}^{2} = ℓ =< Tr_{π}(T T^{∗}).(φ^{∗} ∗ φ), 1 > .

Enfin soit G une partie conique fermée bi-invariante de T^{∗}G\{0} contenant Γ et ne rencontrant pas −W F_{π}. D’après le corollaire III.3 la correspondance φ ↦ φ^{∗}∗φ est séquentiellement continue de E′_{Γ}(G) dans E′_{G}(G). La continuité séquentielle de R_{T} : φ ↦ π(φ)T de E′_{Γ}(G) dans J_{2} provient alors directement de la continuité du produit de E′_{W F_{π}}(G) × E′_{G}(G) dans

E′ ; \overline{G+W F_{π}}(G).

•

Corollaire III.5. Soit π une représentation unitaire d’un groupe de Lie G. Pour toute distribution φ ∈ E′(G) telle que :

W F (φ) ∩ −W F_{π} = ∅

l’opérateur π(φ) est borné.

Démonstration. Ce corollaire résulte du lemme suivant :

Lemme III.6. Soit A un opérateur défini sur un domaine dense D d’un espace de Hilbert H tel que pour tout T ∈ J_{2} laissant D invariant l’opérateur AT soit encore dans J_{2}. Alors A est borné.

Démonstration. Supposons que A ne soit pas borné. Il existe alors une suite de vecteurs (ξ_{j}) de norme 1 dans le domaine de A telle que Aξ_{j} = η_{j} avec ∥η_{j}∥ = α_{j} → +∞. Quitte à prendre une sous-suite on peut supposer que l’on a :

α_{j} ≥ j.

Soit (e_{j}) une base orthonormée de H contenue dans D, et soit l’opérateur T : D → D défini par :

T e_{j} = β_{j}ξ_{j}.

On suppose que ∑ β_{j}^{2} < +∞, de sorte que l’opérateur T appartient à J_{2}. On a AT e_{j} = β_{j}η_{j}. Supposant β_{j} = \frac{1}{j}, on a :

∥AT ∥_{2}^{2} = ∑_{j} α_{j}^{2}|β_{j}|^{2} = +∞,

autrement dit AT n’appartient pas à J_{2}.

•

Remarque : ceci ne montre pas la continuité de la correspondance φ ↦ π(φ) de E′_{Γ}(G) dans J_{∞}(π).

Theorème III.7. Soit π une représentation unitaire d’un groupe de Lie G. Pour toute distribution φ ∈ E′(G) telle que :

W F (φ) ∩ −W F_{π} = ∅

l’opérateur π(φ) est régularisant. De plus si π est fortement traçable, π(φ) est un opérateur à trace. Pour toute partie conique fermée Γ de T^{∗}G privé de la section nulle et vérifiant :

Γ ∩ −W F_{π} = ∅,

la correspondance φ → π(φ) est séquentiellement continue de E′_{Γ}(G) dans J_{1}. Enfin on a :

Tr π(φ) =< χ_{π}.φ, 1 > .

Démonstration. Il suffit d’appliquer le corollaire III.5 à v ∗ φ pour tout v ∈ U(𝔤) pour voir que π(φ) est bien régularisant. Enfin si π est fortement traçable l’écriture :

A = π(1 + Δ)^{−s}(π(1 + Δ)^{s}A).

montre que tous les opérateurs régularisants sont à trace. On a de plus [DS lemma XI.9.20] :

∥π(φ)∥_{1} ≤ ∥π(φ ∗ (1 + Δ)^{2s})π(1 + Δ)^{−s}∥_{2}∥π(1 + Δ)^{−s}∥_{2}

En remarquant que φ ↦ φ∗(1+Δ)^{2s} est continue de E′_{Γ}(G) dans E′_{Γ}(G) et en appliquant le théorème III.4 avec T = π(1+Δ)^{−s} pour s assez grand on obtient la continuité séquentielle de φ ↦ π(φ). Enfin la formule énoncée est immédiate lorsque la distribution φ appartient à C_{c}^{∞}(G), et C_{c}^{∞}(G) est séquentiellement dense dans E′_{Γ}(G), ce qui permet d’étendre la formule à toutes les distributions φ ∈ E′_{Γ}(G) si Γ ∩ −W F_{π} = ∅.

•

IV. Extension de la formule des caractères

On suppose maintenant que la représentation π est irréductible, et qu’elle vérifie l’hypothèse suivante : Hypothèse (H) : π est associée à une orbite coadjointe fermée Ω par la méthode des orbites de Kirillov, de la manière suivante : il existe un voisinage exponentiel U de 0 dans 𝔤, un entier strictement positif κ(π) et une fonction P_{Ω} analytique partout non nulle sur U et telle que P_{Ω}(0) = 1, tels que la formule des caractères :

(∗)  Tr π(T) = κ(π) ∫_{Ω} F(P_{Ω}^{−1}.j_{G}.(T ∘ exp))(ω) dβ_{Ω}(ω)

soit vérifiée pour toute fonction T de classe C^{∞} à support compact inclus dans exp U.

IV.1. Commentaires sur l’hypothèse (H)

Il existe de nombreux cas où l’hypothèse (H) est vérifiée :

1. Lorsque G est compact connexe toute représentation unitaire irréductible π vérifie (H) avec κ(π) = 1. C’est également vrai lorsque G est nilpotent connexe, et dans ce cas P_{Ω} = 1 [Kir].

2. Lorsque G est résoluble connexe et simplement connexe, à toute orbite coadjointe Ω telle que si f ∈ Ω l’indice du stabilisateur réduit \overline{G(f)} dans le stabilisateur G(f) soit fini [Pk] on associe [Kh 1] une famille de représentations factorielles normales ρ de type I. L’indice défini ci-dessus est de la forme n^{2}, n ∈ ℕ^{∗} [Cha 1], et la représentation ρ est de la forme nπ où π est unitaire irréductible. Si de plus l’orbite Ω = G.f est fermée et tempérée la représentation π vérifie (H) avec κ(π) = n. Ceci généralise les résultats de M. Duflo [BCD chap. IX] sur les caractères des représentations associées à une orbite entière, c’est-à-dire dans le cas n = 1.

3. L’hypothèse (H) est vérifiée pour les séries discrète et principale généralisée d’un groupe réductif [Ros]. On peut prendre dans ce cas pour fonction P_{Ω} la fonction :

P (x) = (det \begin{matrix}sh ad & \frac{x}{2} \\ ad & \frac{x}{2} \end{matrix} )^{\frac{1}{2}} .

Cette fonction convient aussi dans le cas résoluble lorsque l’orbite est de dimension maximale [Kh 1 § 4.2.1].

4. Enfin l’hypothèse (H) est vérifiée avec la même fonction P que ci-dessus pour les représentations unitaires irréductibles d’un groupe de Lie général construites par M. Duflo [Du] associées à une orbite coadjointe fermée, tempérée et de dimension maximale [Kh 3]. La formule obtenue coïncide avec la formule de Rossmann dans le cas réductif (voir 3. ci-dessus).

Pour décrire l’entier κ(π) il nous faut rappeler brièvement la construction de M. Duflo [Du] : à un élément f ∈ 𝔤^{∗} on associe un certain revêtement d’ordre deux G̃(f) du stabilisateur G(f) et on désigne par ε l’élément non trivial de G̃(f) qui se projette sur l’élément neutre de G(f). On désigne par X^{irr}(f) l’ensemble des classes de représentations unitaires irréductibles τ de G̃(f) dont la différentielle est multiple de la restriction de −if à G(f) (le signe moins provient de nos conventions sur la transformée de Fourier) et telles que τ(ε) = −1. Si X^{irr}(f) est non vide on dit que f est admissible.

On dit que f est bien polarisable s’il existe en f une polarisation résoluble complexe vérifiant la condition de Pukanszky. La construction de M. Duflo consiste à associer à f ∈ 𝔤^{∗} admissible et bien polarisable et à τ ∈ X^{irr}(f) une classe T_{f,τ} de représentations unitaires irréductibles de G. Dans le cas où l’orbite de f est fermée, tempérée et de dimension maximale M.S. Khalgui [Kh 3] montre que si de plus τ ∈ X^{irr}(f) est de dimension finie l’hypothèse (H) est alors vérifiée pour T_{f,τ} avec :

κ(T_{f,τ}) = dim τ.

Khalgui [Kh 2 § 8] a par ailleurs trouvé un exemple de représentation traçable qui ne vérifie pas (H) : pour une certaine représentation unitaire irréductible d’un groupe G produit semi-direct d’un groupe semi-simple compact K par son algèbre de Lie 𝔨 il exhibe une orbite Ω tempérée telle que la formule des caractères est vérifiée, mais avec une fonction P_{Ω} qui ne peut pas être C^{∞} en 0.

IV.2. Extension de la formule des caractères

On se pose le problème suivant : peut-on étendre pour une représentation vérifiant (H) la validité de la formule des caractères au-delà de C_{c}^{∞}(U)? Autrement dit pour quelles distributions φ à support compact l’opérateur π(φ) est-il à trace, et à quelles conditions la trace de l’opérateur π(φ) est-elle donnée par l’intégrale de la transformée de Fourier de P_{Ω}^{−1}.φ̃ sur l’orbite?

Comme l’orbite Ω est supposée tempérée, on voit que si la transformée de Fourier de P_{Ω}^{−1}.φ̃ décroît suffisamment rapidement sur l’orbite le membre de droite dans la formule des caractères est convergent. Nous allons donc montrer que l’opérateur π(φ) est à trace si W F (φ) ne rencontre pas l’opposé du cône asymptote à Ω, et que dans ce cas Tr π(φ) est donnée par la formule des caractères (*).

Proposition IV.1. Toute représentation π unitaire irréductible vérifiant l’hypothèse (H) est fortement traçable.

Démonstration. Le point clé est le fait que l’orbite Ω associée est tempérée [Cha 2,3]. On aura également besoin d’un lemme d’analyse fonctionnelle :

Lemme IV.2. Soit (A_{k})_{k≥1} une suite d’opérateurs de Hilbert-Schmidt dans un espace de Hilbert séparable H, et soit A un opérateur borné, tels que :

1) A_{k} converge fortement vers A lorsque k → +∞

2) ∥A_{k}∥_{2} ⟶_{k→+∞} ℓ ∈ [0, +∞[.

Alors A est un opérateur de Hilbert-Schmidt.

Démonstration. On se donne une base orthonormée (e_{i}) de H. La suite de fonctions positives :

φ_{k} : i ⟼ ∥A_{k}e_{i}∥^{2}

converge ponctuellement vers φ : i ↦ ∥Ae_{i}∥^{2}. Le lemme de Fatou permet de montrer que la série :

∑_{i} ∥Ae_{i}∥^{2}

est convergente. D’après [DS lemma XI.9.32] l’opérateur A est donc dans J_{2}.

•

Fin de la démonstration de la proposition IV.1 : soit V un voisinage exponentiel de e dans G. Soit φ ∈ C_{c}^{m}(V) avec m entier positif. Soit (α_{k}) une approximation de l’identité dans C_{c}^{∞}(G), telle que pour k assez grand le support de φ_{k} = α_{k} ∗ φ soit encore contenu dans V. Pour tout entier pair 2j ≤ m − n − 1 la fonction (1 + ∥ξ∥^{2})^{j}F(P_{Ω}^{−1}φ̃_{k}) converge uniformément sur 𝔤^{∗} vers (1 + ∥ξ∥^{2})^{j}F(P_{Ω}^{−1}φ̃). Comme l’orbite est tempérée [Cha 2,3], si m est assez grand il existe donc j tel que l’intégrale :

∫_{Ω} F(P_{Ω}^{−1}φ̃)(ξ)dβ_{Ω}(ξ) = ∫_{Ω}(1 + ∥ξ∥^{2})^{j}F(P_{Ω}^{−1}φ̃)(ξ) (1 + ∥ξ∥^{2})^{−j}dβ_{Ω}(ξ)

est convergente et la mesure (1 + ∥ξ∥^{2})^{−j}dβ_{Ω} est finie. En appliquant la formule des caractères à π(φ_{k}) et le théorème de convergence dominée de Lebesgue on a :

Tr(φ_{k}) ⟶_{k→+∞} ∫_{Ω} F(P_{Ω}^{−1}φ)(ξ)dβ_{Ω}(ξ)

L’opérateur π(φ) est borné puisque φ ∈ L^{1}(G). Appliquant alors le lemme IV.2 à la suite d’opérateurs :

A_{k} = π(φ_{k}), A = π(φ)

on voit qu’il existe un entier m tel que pour tout φ ∈ C_{c}^{m}(V) l’opérateur π(φ) appartient à J_{2}. Quitte à augmenter sensiblement l’entier m on peut alors passer de J_{2} à J_{1} : on utilise le résultat suivant (M. Duflo dans [BCD lemme IX.3.2.3], cf. aussi [Jø] theorem 4), conséquence de l’ellipticité au voisinage de l’élément neutre de l’opérateur invariant à droite donné par Δ : quitte à rétrécir un peu l’ouvert V il existe un entier m′, une distribution β ∈ E′(V) et une fonction γ ∈ C_{c}^{∞}(V) tels que :

Δ^{∗m′} ∗ β = δ + γ

où δ désigne la mesure de Dirac en l’élément neutre. L’opérateur invariant à droite donné par Δ^{m′}∗_{−} étant elliptique d’ordre 2m′, la distribution β est une fonction de classe C^{2m′−n−1}, donc de classe C^{m} si m′ est assez grand. On déduit de ceci, comme dans [BCD p. 251-252] que l’on a :

φ = φ ∗ Δ^{∗2m′} ∗ β ∗ β − φ ∗ Δ^{∗m′} ∗ (γ ∗ β + β ∗ γ) + φ ∗ γ ∗ γ

d’où on déduit :

π(φ) = π(φ) ∘ (π(Δ)^{2m′} ∘ π(β)^{2} + π(Δ)^{m′} ∘ (π(γ)π(β) + π(β)π(γ)) + π(γ)^{2})

Si φ ∈ C_{c}^{m+4m′}(G) les opérateurs π(φ) ∘ π(Δ)^{2m′}, π(φ) ∘ π(Δ)^{m′} et π(φ) sont dans J_{2} d’après ce qui précède, donc bornés, et les opérateurs π(β)^{2}, π(γ)π(β) + π(β)π(γ) et π(γ)^{2} sont à trace puisque π(β) et π(γ) sont dans J_{2}. Donc π(φ) est à trace, ce qui démontre la proposition, d’après le critère 3) de la proposition I.1.

•

Theorème IV.3. Soit π une représentation unitaire irréductible de G vérifiant l’hypothèse (H). On désigne par AC(Ω) le cône asymptote à l’orbite, c’est-à-dire l’ensemble des ξ ∈ 𝔤^{∗} tels que tout voisinage conique de ξ a une intersection non bornée avec Ω. Soit V un voisinage exponentiel de e dans G. Alors :

1) W F_{π}^{0} ⊂ −AC(Ω)

2) Pour toute distribution φ ∈ E′(V) telle que :

W F (φ) ∩ −W F_{π} = ∅,

l’opérateur π(φ) est à trace, et la formule des caractères :

(∗)  Tr π(φ) = κ(π) ∫_{Ω} F(P_{Ω}^{−1}.φ̃)(ω) dβ_{Ω}(ω)

est vérifiée.

Démonstration. Le 1) est dû à R. Howe [Hw proposition 2.2], qui en donne une démonstration succincte dans le cas nilpotent. Pour une démonstration dans le cadre général de la transformée de Fourier d’une mesure positive tempérée quelconque, voir [D-V lemme 4]. Rappelons-en le principe : au vu de la proposition II.2 et de la formule des caractères un point ξ_{0} ∈ 𝔤^{∗} n’appartient pas à W F_{π}^{0} = W F^{0}(χ_{π}) si et seulement si il existe un voisinage W de ξ_{0} et un voisinage ouvert U de e dans G tels que pour tout ξ ∈ W et toute fonction α ∈ C_{c}^{∞}(U) l’intégrale :

(I)  ∫_{Ω} F(P_{Ω}^{−1}α̃)(ω + tξ)dβ_{Ω}

est à décroissance rapide lorsque t → +∞, et ce de manière uniforme lorsque ξ varie dans un voisinage compact de ξ_{0} dans W. Supposons que ξ_{0} n’appartienne pas à −AC(Ω). Alors il existe un voisinage W de ξ_{0} et une constante B > 0 telle que pour tout ω ∈ Ω et pour tout t assez grand on ait :

∥ω + tξ∥ ≥ Bt∥ξ∥.

Comme par ailleurs la transformée de Fourier F(P_{Ω}^{−1}α̃) est à décroissance rapide on montre facilement en utilisant le fait que la mesure dβ_{Ω} est tempérée que (I) est à décroissance rapide en t.

Pour le 2) il suffit de remarquer que le membre de droite de la formule (*) se prolonge en une forme linéaire continue sur E′_{Γ}(V) pour toute partie conique fermée Γ de T^{∗}V \0 ne rencontrant pas W F_{π}. Par ailleurs d’après le théorème III.7 le membre de gauche définit une forme linéaire séquentiellement continue sur E′_{Γ}(G), et donc aussi sur E′_{Γ}(V). Ces deux formes linéaires sont donc égales puisqu’elles sont égales sur le sous-espace séquentiellement dense C_{c}^{∞}(V) ([Hr 1§ 2.5]).

•

Remarque : la proposition 2.2 de [Hw] stipule l’égalité de W F_{π}^{0} et de −AC(Ω) dans le cas nilpotent. L’idée de démonstration est la suivante : on suppose G connexe et simplement connexe, on identifie G et son algèbre de Lie via l’exponentielle et on considère la famille de fonctions “presque à support compact” (φ_{τ})_{τ∈[2,+∞]} définie par :

φ_{τ} (x) = τ^{−1}e^{− \frac{∥(log τ)x∥^{2}}{2}}

pour τ < +∞ et φ_{∞} = 0. Cette famille de fonctions forme un compact de C^{∞}(𝔤). On montre alors que pour ξ ∈ −AC(Ω) il existe une suite ξ_{k} → ξ telle que l’expression :

F(φ_{τ} .χ_{π})(τξ_{k})

n’est pas à décroissance rapide en τ. Il suffit de considérer une suite ξ_{k} → ξ telle qu’il existe τ_{k} → +∞ tel que −τ_{k}ξ_{k} ∈ Ω (par définition du cône asymptote). Il existe un élément ω_{0} ∈ Ω et une suite g_{k} ∈ G telle que −τ_{k}ξ_{k} = Ad^{∗} ω_{0}. On a alors :

\begin{aligned}I_{k} := F(φ_{τ_{k}}.χ_{π})(τ_{k}ξ_{k}) & = ∫_{Ω} F.φ_{τ_{k}}(ω + τ_{k}ξ_{k}) dβ_{Ω}(ω) \\ & = ∫_{Ω} F.φ_{τ_{k}}(Ad^{∗} g_{k}.(ω − ω_{0})) dβ_{Ω}(ω). \end{aligned}

Il existe un voisinage compact V de 0 dans 𝔤^{∗} tel que :

∫_{{ω∈Ω/ω−ω_{0}∈V }} dβ_{Ω}(ω) ≥ 2

et un τ_{0} tel que tel que :

inf_{η∈V} (F.φ_{τ})(η) ≥ \frac{τ^{−1}(log τ)^{− \frac{n}{2}}}{2} .

On a donc :

I_{k} ≥ \frac{τ_{k}^{−1}(log τ_{k})^{− \frac{n}{2}}}{2} ∫_{ω−ω_{0}∈Ad^{∗} g_{k}^{−1}.V} dβ_{Ω}(ω)

≥ \frac{τ_{k}^{−1}(log τ_{k})^{− \frac{n}{2}}}{2} ∥ Ad^{∗} g_{k}∥^{− dim Ω} ∫_{ω−ω_{0}∈V} dβ_{Ω}(ω)

≥ τ_{k}^{−1}(log τ_{k})^{− \frac{n}{2}} ∥ Ad^{∗} g_{k}∥^{− dim Ω}.

Par nilpotence de G on peut choisir g_{k} tel que ∥ Ad^{∗} g_{k}∥ soit à croissance polynomiale en τ_{k}, ce qui montre que I_{k} n’est pas à décroissance rapide en τ_{k}. On se donne alors une fonction γ ∈ C_{c}^{∞}(U) égale à 1 au voisinage de 0 dans 𝔤, où U est un voisinage quelconque de 0. Si on pose :

φ′_{τ} = γφ_{τ}

on vérifie facilement que :

sup_{x}(φ_{τ} (x) − φ′_{τ} (x)) = O(τ^{−N})

pour tout N. L’intégrale :

I′_{k} := F(φ′_{τ_{k}}.χ_{π})(τ_{k}ξ_{k})

n’est donc pas à décroissance rapide en τ. Le vecteur ξ appartient donc au front d’onde de χ_{π}, donc à W F_{π}^{0} d’après la proposition II.2.

V. Applications

V.1. Application aux opérateurs pseudo-différentiels

On introduit dans [M1, M2] les classes de symboles analytiques de la façon suivante : pour tout voisinage compact Q de 0 dans 𝔤, pour tout réel m et pour tout ρ ∈ [0, 1] on définit la classe AS_{ρ}^{m,Q}(𝔤^{∗}) comme l’espace des fonctions p sur 𝔤^{∗} dont le support de la transformée de Fourier inverse est inclus dans Q, et qui vérifient les estimations :

|D^{α}p(ξ)| ≤ C_{α}(1 + ∥ξ∥)^{m−ρ|α|}.

Les symboles utilisés sont des transformées de Fourier de distributions à support compact sur 𝔤, dont le support singulier est réduit à {0} lorsque ρ > 0. Le cadre des distributions à support compact que nous avons choisi ici correspond par transformée de Fourier à la classe AS_{ρ}^{M,Q} avec ρ = 0. La convolution sur le groupe donne donc naissance à un produit :

# : AS_{0}^{M,Q} × AS_{0}^{M,Q} ⟶ AS_{0}^{M,Q^{2}}

si Q est assez petit. La restriction de ce produit à AS_{ρ}^{M,Q} × AS_{ρ}^{M,Q} pour ρ > 1/2 permet de développer [M1] un calcul symbolique similaire à plusieurs égards à celui des opérateurs pseudo-différentiels sur ℝ^{n}. Pour toute représentation unitaire π de G on définit alors l’opérateur pseudo-différentiel de symbole p dans l’espace de la représentation π par :

p^{W,π} = π(φ)

avec j_{G}(x)φ(exp x) = φ̃(x) = F^{−1}p(x) pour x ∈ 𝔤. Le support singulier de φ étant réduit à l’élément neutre son front d’onde s’identifie à un cône dans 𝔤^{∗}, et l’application du théorème III.7 et du théorème IV.3.1) dans ce cas particulier nous redonne le théorème III.1 de [M2].

V.2. Restriction à un sous-groupe fermé transverse

On se donne un groupe de Lie G d’algèbre de Lie 𝔤, et une représentation unitaire fortement traçable π de G. On se donne un sous-groupe fermé H transverse au front d’onde de π, c’est à dire tel que W F_{π}^{0} ∩ 𝔥^{⊥} = ∅. On se fixe une mesure de Haar à gauche dh sur H

Toute fonction ψ ∈ C_{c}^{∞}(H) donne naissance à une distribution \overline{ψ} à support compact sur G, définie par :

\begin{aligned}< \overline{ψ}, φ > & =< ψ, φ|_{H} > \\ & = ∫_{H} ψ(h)φ(h) dh. \end{aligned}

On a bien entendu :

W F_{e}(\overline{ψ}) ⊂ 𝔥^{⊥}.

On en déduit facilement que W F (\overline{ψ}) ∩ −W F_{π} = ∅. On utilise alors le théorème III.7 : l’opérateur π(\overline{ψ}) est à trace. Or on a l’égalité entre opérateurs :

π(\overline{ψ}) = π|_{H}(ψ).

La représentation π|_{H} est donc traçable, et on a bien :

< χ_{(π|_{H})}, ψ > = T r(π|_{H}(ψ))

= T r(π(\overline{ψ}))

=< χ_{π}.\overline{ψ}, 1 > d’après le théorème III.7

=< (χ_{π})|_{H}, ψ > par définition de la restriction d’une distribution.

d’où l’égalité :

χ_{(π|_{H})} = (χ_{π})|_{H}.

Autrement dit :

Theorème V.1. Soit G un groupe de Lie d’algèbre de Lie 𝔤, soit π une représentation unitaire fortement traçable de G, et soit H un sous-groupe fermé de G d’algèbre de Lie 𝔥 vérifiant la condition :

W F_{π}^{0} ∩ 𝔥^{⊥} = ∅.

Alors la restriction de π au sous-groupe H est traçable, et le caractère de π|_{H} est donné par la restriction du caractère de π au sous-groupe H.

Corollaire V.2. Sous les hypothèses du théorème V.1, la restriction de π au sous-groupe H est somme directe de représentations unitaires irréductibles traçables de H, chacune intervenant avec multiplicité finie.

Ce résultat a été conjecturé par M. Duflo et M. Vergne ([D-V], fin du chapitre 1).

Références :

[BCD] P. Bernat, N. Conze, M. Duflo et al. Représentations des groupes de Lie résolubles, Dunod 1972.

[Cha 1] J-Y. Charbonnel, La mesure de Plancherel pour les groupes de lie résolubles connexes,

Lect. Notes in Math. 576 (1977), 32-76.

[Cha 2] J-Y. Charbonnel, Orbites fermées et orbites tempérées, Ann. Sci. Ec. Norm. Sup. 23

(1990), 123-149.

[Cha 3] J-Y. Charbonnel, Orbites fermées et orbites tempérées, II, J. Funct. Anal. 138 (1996),

213-222.

[Du] M. Duflo, Construction de représentations unitaires d’un groupe de Lie, Cours d’été du C.I.M.E, Cortona 1980, 129-221.

[D-V] M. Duflo, M. Vergne, Orbites coadjointes et cohomologie équivariante, in The orbit method in representation theory, Copenhague 1988. Progr. Math. 82, M. Duflo, N.V. Pedersen, M. Vergne eds.

[D-S] N. Dunford, J.T. Schwartz, linear operators, vol II, Interscience, New-York 1958.

[Dui] J.J. Duistermaat, Fourier integral operators, Courant Institute, 1973 (Rééd. Progress in Math. 130, Birkhäuser 1995).

[Ga] A. Gabor, Remarks on the wave front set of a distribution, Trans. Amer. Math. Soc. 170 (1972), 239-244.

[Go] R. Goodman, Elliptic and subelliptic estimates for operators in an enveloping algebra, Duke Math. J. 47, No 4 (1980), 819-833.

[Hei] D.B. Heifetz, p-adic oscillatory integrals and wave front sets, Pac. J. Math. 116 No 2 (1985), 285-305.

[Hr 1] L. Hörmander, Fourier integral operators I, Acta Math. 127 (1971), 79-183. [Hr 2] L. Hörmander, The Weyl calculus of pseudodifferential operators, Comm. Pure Appl.

Math. 32 (1979), 359-443. [Hr 3] L. Hörmander, The analysis of partial differential operators I, Springer 1983.

[Hu] A. Hulanicki, Subalgebra of L_{1}(G) associated with laplacian on a Lie group, Coll. Math. 31 No 2 (1974), 259-287.

[Hw] R. Howe, Wave front sets of representations of Lie groups, in Automorphic forms, representation theory and Arithmetic, Tata Inst. fund. res. st. math. 10, Bombay 1981.

[Jø] P.E.T. Jørgensen, Distribution representations of Lie groups, J. Math. Anal. Appl. 65

(1978), 1-19. [Kh 1] M.S. Khalgui, Sur les caractères des groupes de Lie résolubles, Publ. Math. Univ. Paris

VII 2 (1978). [Kh 2] M.S. Khalgui, Sur les caractères des groupes de Lie à radical cocompact, Bull. Soc. Math.

France 109 (1981), 331-372. [Kh 3] M.S. Khalgui, Caractères des groupes de Lie, J. Funct. Anal. 47 (1982), 64-77 [Kir] A.A. Kirillov, Elements of the theory of representations, Springer 1976.

[M1] D. Manchon, Weyl symbolic calculus on any Lie group, Acta Appl. Math. 30 (1993), 159-186.

[M2] D. Manchon, opérateurs pseudodifférentiels et représentations unitaires des groupes de Lie, Bull. Soc. Math. France 123 (1995), 117-138.

[Ne] E. Nelson, Analytic vectors, Ann. Math. 70 No 3 (1959), 572-615. [Ne-St] E. Nelson, W.F. Stinespring, Representation of elliptic operators in an enveloping algebra,

Amer. J. Math. 81 (1959), 547-560.

[Pk] L. Pukanszky, Unitary representations of solvable Lie groups, Ann. Ec. Norm. Sup. 4 (1971), 457-608.

[Rob] D. W. Robinson, Elliptic operators and Lie groups, Oxford 1991.

[Ros] W. Rossmann, Kirillov’s character formula for reductive Lie groups, Invent. Math. 48 (1978), 207-220.

[Shu] M.A. Shubin, Pseudodifferential operators and spectral theory, Springer 1987.