Front d’onde et propagation des singularités pour un vecteur-distribution

Dominique MANCHON Institut Elie Cartan, Université Henri Poincaré - CNRS - INRIA BP 239, 54506 Vandœuvre les Nancy Cedex

                          manchon@iecn.u-nancy.fr

Table des matières

Introduction  2
I. Calcul fonctionnel holomorphe pour des symboles elliptiques  5
I.1. Rappels sur le calcul symbolique  5
I.2. Une résolvante approchée  7
I.3. Calcul fonctionnel holomorphe  10
II. Front d’onde d’un vecteur-distribution  14
II.1. Espaces de Sobolev-Goodman  14
II.2. Opérateurs pseudo-différentiels sur les espaces de représentations 15
II.3. Définition et premières propriétés du front d’onde  17
II.4. Une autre caractérisation du front d’onde  19
II.5. Restrictions  21
III. Propagation des singularités  23
III.1. Symboles classiques  23
III.2. Une forme faible de l’inégalité de Gårding précisée  23
III.3. Théorème de propagation des singularités  24
Appendice : calcul symbolique à paramètre  29
Références  35

Résumé : Nous définissons le front d’onde d’un vecteur-distribution pour une représentation unitaire d’un groupe de Lie réel G à l’aide du calcul pseudo-différentiel mis au point dans un travail antérieur [M2]. Cette notion précise celle de front d’onde d’une représentation introduite par R. Howe [Hw]. En application nous donnons une condition suffisante pour qu’un vecteur-distribution reste un vecteur-distribution pour la restriction de la représentation à un sous-groupe fermé H, et nous donnons un théorème de propagation des singularités pour les vecteurs-distribution.

Abstract : We define the wave front set of a distribution vector of a unitary representation in terms of pseudo-differential-like operators [M2]for any real Lie group G. This refines the notion of wave front set of a representation introduced by R. Howe [Hw]. We give as an application a necessary condition so that a distribution vector remains a distribution vector for the restriction of the representation to a closed subgroup H, and we give a propagation of singularities theorem for distribution vectors.

Mathematics Subject Classification : 22E30, 38S05, 58G15

Introduction

Cet article est la suite d’un travail récent [M4] dans lequel était développée la notion de front d’onde d’une représentation unitaire [Hw]. Nous étendons ici la notion de front d’onde aux vecteurs-distribution.

La définition du front d’onde d’une distribution sur une variété M est due à L. Hörmander, qui en donne également une caractérisation à l’aide des opérateurs pseudodifférentiels [Hr2 th. 18.1.27] : le front d’onde est une partie conique fermée du fibré cotangent privé de la section nulle T^{∗}M − {0}, donnée par :

(∗)  W F (u) = ⋂ char P,

où P parcourt l’ensemble des opérateurs pseudo-différentiels d’ordre zéro tels que P u ∈ C^{∞}(M), et char P désigne l’ensemble des (x, ξ) ∈ T^{∗}M − {0} tels que le symbole p de P vérifie : lim inf p(x, tξ) = 0 lorsque t → +∞ (voir aussi [T § VI.1]). Pour un réel s quelconque le front d’onde d’ordre s de la distribution u est défini de la même manière, l’intersection s’étendant à tous les o.p.d. P d’ordre zéro tels que P u appartienne à l’espace de Sobolev H_{s}^{loc}(M) [D-H § 6.1].

Or nous avons défini ([M2], cf. § II.2) pour toute représentation unitaire π d’un groupe de Lie réel G des opérateurs pseudo-différentiels sur l’espace H_{π} de la représentation, dont le symbole est une fonction C^{∞} sur la variété de Poisson linéaire 𝔤^{∗} (ces opérateurs sont l’image par π d’opérateurs pseudo-différentiels invariants sur le groupe, cf. [Me1], [Stk]) : pour tout p ∈ C^{∞}(𝔤^{∗}) tel que sa transformée de Fourier soit une distribution à support compact contenu dans un voisinage exponentiel de 0 dans l’algèbre de Lie 𝔤 on définit l’opérateur p^{W,π} de domaine H_{π}^{∞} par :

< p^{W,π}u, v >=< φ, C_{u,v>}

pour tout u ∈ H_{π}^{∞} et v ∈ H_{π}. Ici C_{u,v} désigne le coefficient < π(.)u, v > et φ est donnée par :

j_{G}. exp^{∗} φ = F^{−1}p,

où j_{G} désigne le jacobien de l’exponentielle. Il est donc naturel de définir (§ II.3) le front d’onde d’un vecteur-distribution par une formule analogue à (*) :

(∗∗)  W F (u) = ⋂ char p,

où p parcourt l’ensemble des symboles d’ordre zéro tels que p^{W,π}u soit un vecteur C^{∞}, et où char p désigne l’ensemble des directions dans 𝔤^{∗} où p s’annule à l’infini. Nous définissons également le front d’onde d’ordre s à l’aide des espaces de Sobolev-Goodman H_{π}^{s} [Go] dont nous rappelons la définition au § II.1.

Le front d’onde d’un vecteur-distribution est un cône fermé Ad^{∗} G-covariant de 𝔤^{∗} − {0}. Ceci raffine la notion de front d’onde d’une représentation unitaire introduite par R. Howe [Hw], en ce sens que l’on a l’inclusion :

W F (u) ⊂ −W F_{π}^{e}.

Nous donnons également au § II.4 une caractérisation du front d’onde de R. Howe en termes d’opérateurs pseudo-différentiels :

W F_{π}^{e} = − ⋂ char p,

où p parcourt l’ensemble des symboles d’ordre zéro tels que p^{W,π} soit un opérateur régularisant. Le signe moins est un simple artifice de convention.

En application nous donnons au § II.5 une condition suffisante pour qu’un vecteurdistribution soit encore un vecteur-distribution pour la restriction de π à un sous-groupe fermé H :

Theorème II.5.2. 1). Soit u ∈ H_{π|_{H}}^{∞}. Considérant alors u comme un vecteur-distribution de π on a l’inclusion :

W F (u) ⊂ 𝔥^{⊥}.

2). Soit v ∈ H_{π}^{−∞}. Alors si W F (v) ∩ 𝔥^{⊥} = ∅ le vecteur-distribution v est un vecteurdistribution pour la restriction π|_{H}.

Nous donnons également une condition suffisante sur une distribution φ à support compact sur G pour que π(φ)u soit un vecteur C^{∞} : définissant WF(u) comme la partie conique de T^{∗}G − {0} formée par les translatés (à gauche ou à droite) de W F (u) on a le résultat suivant :

Proposition II.4.4. Supposons que H_{π} soit un espace de Hilbert séparable. Soit u ∈ H_{π}^{−∞}. Alors pour toute distribution φ ∈ E′(G) telle que :

W F (φ) ∩ WF(u) = ∅,

on a :

π(φ)u ∈ H_{π}^{∞}.

Le résultat central de cet article est le théorème de propagation des singularités III.3.1, qui entraîne (corollaire III.3.5) que pour un symbole à valeurs réelles p la différence des deux fronts d’onde :

W F (u)\W F (p^{W,π}u)

est invariante par le flot du champ hamiltonien défini par le symbole principal p_{m}. La démonstration est parallèle à celle donnée dans [T§ VI.1] pour les distributions, et repose sur une forme faible de l’inégalité de Gårding précisée (Théorème III.2.1).

La première partie est consacrée au calcul fonctionnel holomorphe pour des symboles elliptiques. Nous avons repris la construction de M.A. Shubin [Shu] en suivant la suggestion de R. Strichartz [St] de considérer des fonctions holomorphes dans un secteur du plan complexe plus générales que t ↦ t^{z}. Le défaut de cette approche est de limiter le calcul fonctionnel holomorphe à des symboles polynomiaux (ou, si l’on veut, aux opérateurs différentiels). La méthode de R. Seeley [S] s’applique à tout o.p.d. elliptique, mais nous n’avons pas su adapter sa méthode à notre cadre. La difficulté provient de la nécessité de se limiter à des symboles dont la transformée de Fourier inverse est à support compact, ce qui oblige à couper les hautes fréquences à chaque étape de la construction de la résolvante approchée. Cette restriction n’ayant pas lieu d’être dans le cas nilpotent simplement connexe [M3] on peut donc définir dans ce cas précis un calcul fonctionnel holomorphe pour tout symbole elliptique, polynomial ou non.

Ce calcul fonctionnel est nécessaire pour montrer la continuité Sobolev de H_{π}^{s} dans H_{π}^{s−m} des opérateurs p^{W,π} où p est un symbole d’ordre m (proposition II.2.1), contrairement au cas des distributions sur une variété, où ce résultat se montre directement [T. th. II.6.5]. Il repose quant à lui sur une variante à paramètre du calcul symbolique (Théorème I.2.4) sur 𝔤^{∗}, que nous développons en appendice. Nous reprenons [M1 th. 4.2] en incluant le paramètre et en apportant quelques simplifications et corrections (voir la remarque suivant le théorème I.1.2).

Remerciements : Je remercie vivement Michel Duflo pour d’utiles précisions.

Notations : (0.1). On désignera par G un groupe de Lie réel connexe de dimension n, d’algèbre de Lie 𝔤 et de dual 𝔤^{∗}. On désigne par dx une mesure de Lebesgue sur 𝔤, et par dg une mesure de Haar à gauche sur G normalisée de telle façon que le jacobien j_{G} de l’exponentielle s’écrive :

j_{G}(x) = |det(\frac{1 − e^{− ad x}}{ad x})|

On désigne par Δ_{G} = det Ad g la fonction module. Par le choix de la mesure de Haar dg nous identifierons l’espace C^{∞}(G) et l’espace des densités C^{∞} sur G. Par dualité l’espace des distributions sur G s’identifie à l’espace des fonctions généralisées sur G. (0.2). On désignera par T^{∗}G\{0} le fibré cotangent de G privé de la section nulle. Une partie C de T^{∗}G\{0} est conique si pour tout (g, ξ) ∈ C, (g, tξ) ∈ C pour tout réel t > 0. On notera alors −C l’ensemble des {(g, −ξ), (g, ξ) ∈ C}. (0.3). On désignera par π une représentation unitaire fortement continue du groupe de Lie G dans un espace de Hilbert séparable qui sera noté H_{π}. On désignera alors par H_{π}^{∞} l’espace des vecteurs indéfiniment différentiables de la représentation. L’espace H_{π}^{∞} est constitué des vecteurs u tels que pour tout v ∈ H_{π} le coefficient :

C_{u,v} : g ⟼< π(g)u, v >

soit C^{∞} sur G. Son dual est l’espace H_{π}^{−∞} des vecteurs-distribution. (0.4). On définit pour tout φ ∈ E′(G) l’opérateur (en général non borné) π(φ) de domaine H_{π}^{∞} par la formule :

< π(φ)u, v >=< φ, C_{u,v} >

(Voir [Jø] pour une définition dans le cadre général des représentations dans un espace de Banach).

(0.5). Pour toute distribution φ ∈ E′(G) on pose :

φ^{∗} = Δ_{G}.\overline{i^{∗}φ}

où Δ_{G} désigne la fonction module et i le difféomorphisme g ↦ g^{−1}. On a pour tout couple (u, v) dans H_{π}^{∞} :

< π(φ)u, v >=< u, π(φ^{∗})v > .

I. Calcul fonctionnel holomorphe pour des symboles elliptiques

I.1. Rappels sur le calcul symbolique

Soit G un groupe de Lie réel connexe, 𝔤 son algèbre de Lie et 𝔤^{∗} son dual, que nous verrons comme une variété de Poisson linéaire munie du crochet de Poisson :

{f, g}(ξ) =< ξ, [Df(ξ), Dg(ξ)] > .

Soit Q un voisinage compact de 0 dans 𝔤. On désigne par S_{ρ}^{m}(𝔤^{∗}), m ∈ ℝ, ρ ∈]0, 1], la classe de symboles constituée par les fonctions p ∈ C^{∞}(𝔤^{∗}) vérifiant les estimations :

|D^{α}p(ξ)| ≤ C_{α}.(1 + ∥ξ∥^{2})^{\frac{1}{2} (m−ρ|α|)}.

Cet espace, muni des semi-normes N_{α} définies comme étant les meilleures constantes C_{α} possibles, est un espace de Fréchet. On désignera par AS_{ρ}^{m,Q}(𝔤^{∗}) le sous-espace fermé de S_{ρ}^{m}(𝔤^{∗}) des symboles p tels que supp F^{−1}p ⊂ Q, et par AS_{ρ}^{m}(𝔤^{∗}) la réunion des AS_{ρ}^{m,Q}(𝔤^{∗}), Q parcourant l’ensemble des voisinages compacts de 0 dans 𝔤. On rappelle deux résultats de [M1] (Theorem 2.1 et Theorem 4.2) :

Proposition I.1.1 (Théorème d’approximation). Soit Q un voisinage compact de 0 dans 𝔤, et soit χ ∈ C^{∞}(𝔤) à support dans Q telle que χ = 1 au voisinage de 0. Alors l’opérateur T^{Q} sur C^{∞}(𝔤^{∗}) défini par :

T^{Q} = F ∘ χ ∘ F^{−1}

est continu de S_{ρ}^{m}(𝔤^{∗}) dans AS_{ρ}^{m,Q}(𝔤^{∗}), et I − T^{Q} est continu de S_{ρ}^{m}(𝔤^{∗}) dans l’espace de Schwartz S(𝔤^{∗}).

Proposition I.1.2 (Calcul symbolique). Soit K un voisinage compact exponentiel de 0 dans 𝔤, assez petit pour que (exp K)^{2} soit l’image difféomorphe d’un voisinage K^{2} de 0 dans 𝔤. Alors si ρ > \frac{1}{2} il existe un voisinage compact Q de 0 dans 𝔤 tel que la loi # définie à partir de la convolution ∗ sur le groupe par :

exp_{∗}(j_{G}^{−1}F^{−1}p) ∘ exp_{∗}(j_{G}^{−1}F^{−1}q) = exp_{∗}(j_{G}^{−1}F^{−1}(p#q))

s’étend en une correspondance bilinéaire continue :

AS_{ρ}^{m_{1},Q}(𝔤^{∗}) × AS_{ρ}^{m_{2},Q}(𝔤^{∗}) ⟶ AS_{ρ}^{m_{1}+m_{2},Q^{2}}(𝔤^{∗}).

De plus on a le développement asymptotique :

p#q = ∑_{0}^{N} C_{k}(p, q) + R_{N}(p, q)

où les C_{k} sont des opérateurs bi-différentiels avec :

C_{0}(p, q) = pq, C_{1}(p, q) = \frac{i}{2}\{p, q\},

les C_{k} (resp. R_{N}) étant par ailleurs continus de AS_{ρ}^{m_{1},Q}(𝔤^{∗}) × AS_{ρ}^{m_{2},Q}(𝔤^{∗}) dans la classe

AS_{ρ}^{m_{1}+m_{2}−k(2ρ−1),Q+Q}(𝔤^{∗}) (resp. AS_{ρ}^{m_{1}+m_{2}−(N+1)(2ρ−1),(Q+Q)∪Q^{2}}(𝔤^{∗})).

Remarque : le théorème n’est pas vrai a priori pour le voisinage compact K lui-même, contrairement à ce qui est dit par erreur dans l’énoncé du théorème 4.2 de [M1]. La démonstration du lemme III.8 de [M1] nécessite en effet un voisinage compact Q plus petit (voir le lemme A.6 pour la variante avec paramètre), ce qui n’est nullement restrictif dans les applications.

On a également une variante à paramètre du théorème d’approximation, tirée de [M2] (Théorème I.2.2) :

Proposition I.1.3 (Théorème d’approximation à paramètre). Soit (p_{λ})_{λ∈P} une famille de symboles, où l’ensemble de paramètres P est cône dans un espace vectoriel normé (typiquement, P = ℝ^{+} ou un secteur de ℂ). On suppose que p_{λ} appartient à S_{ρ}^{m}(𝔤^{∗}) pour tout λ, et qu’on a en plus les estimations :

|D^{α}p_{λ}(ξ)| ≤ C_{α}(1 + ∥ξ∥^{2})^{\frac{1}{2} (m−ρ|α|)}(1 + ∥λ∥^{2})^{\frac{1}{2} (m′−ρ′|α|)}

avec m′ ∈ ℝ et ρ′ > 0. Alors pour tout N ∈ ℕ et tout multi-indice α il existe C_{N}, α telle que :

|D^{α}((I − T^{Q})p_{λ})(ξ) ≤ C_{N,α}(1 + ∥ξ∥^{2})^{−N}(1 + ∥λ∥^{2})^{−N}.

Le passage du cas P = ℝ^{+} traité dans [M2] au cas général ci-dessus est immédiat.

I.2. Une résolvante approchée

Soit p ∈ AS_{ρ}^{m,Q}(𝔤^{∗}) avec m > 0, ρ > \frac{1}{2} et Q voisinage compact de 0 dans 𝔤 satisfaisant les hypothèses de la proposition I.1.2. On suppose que p est elliptique, c’est-à-dire qu’il existe R > 0 tel que pour ∥ξ∥ > R on a :

C_{1}(1 + ∥ξ∥^{2})^{\frac{m}{2}} ≤ |p(ξ)| ≤ C_{2}(1 + ∥ξ∥^{2})^{\frac{m}{2}} .

Soit P un secteur angulaire de ℂ tel que pour ∥ξ∥ assez grand p(ξ) ne prenne pas ses valeurs dans un voisinage conique de P. Nous allons construire une paramétrixe pour le symbole à paramètre :

p_{λ} = p − λ, λ ∈ P.

On posera :

Λ(ξ) = (1 + ∥ξ∥^{2})^{\frac{1}{2}} , Λ_{d}(ξ, λ) = (1 + ∥ξ∥^{2} + |λ|^{\frac{2}{d}})^{\frac{1}{2}} .

Lemme I.2.1. On a l’estimation pour |ξ| assez grand :

C_{1}Λ_{m}(ξ, λ)^{m} ≤ |p_{λ}(ξ)| ≤ C_{2}Λ_{m}(ξ, λ)^{m}.

Démonstration. On a l’encadrement :

C_{1}Λ_{m}(ξ, λ)^{m} ≤ Λ(ξ)^{m} + |λ| ≤ C_{2}Λ_{m}(ξ, λ)^{m}.

La majoration vient alors de l’inégalité :

|p_{λ}(ξ)| ≤ C.(Λ(ξ)^{m} + |λ|).

Pour la minoration, on remarque que les hypothèses sur P entraînent l’existence d’un ε > 0 tel que |p(ξ) − λ| ≥ ε|p(ξ)| et |p(ξ) − λ| ≥ ε|λ|. Il existe donc C′ telle que :

|p_{λ}(ξ)| ≥ C′(Λ(ξ)^{m} + |λ|).
•

Lemme I.2.2. Lorsque p est de plus un symbole polynomial, la famille (p_{λ}) vérifie les estimations :

|D^{α}p_{λ}(ξ)| ≤ C_{α}Λ_{m}(ξ, λ)^{m−|α|}.

Ce lemme, à démonstration immédiate, est faux si p n’est pas un polynôme : il est en effet crucial que les dérivées s’annulent à partir d’un certain rang. On résume les deux lemmes précédents en disant que la famille (p_{λ})_{λ∈P} appartient à la classe de symboles à paramètres :

S_{1,m}^{m}(𝔤^{∗}, P)

dont la définition procède directement des estimations du lemme 2, et est elliptique en tant que famille à un paramètre de symboles. En utilisant l’ellipticité de p_{λ} et l’expression explicite des dérivées successives de p_{λ}^{−1} on obtient classiquement le lemme suivant :

Lemme I.2.3. Pour tout λ ∈ P tel que |λ| > R on a les estimations :

|D^{α} \frac{1}{p_{λ}} (ξ)| ≤ C_{α}.Λ_{m}(ξ, λ)^{−m−|α|}

On se donne plus généralement un réel d > 0, on pose :

Λ_{d}(ξ, λ) = (1 + ∥ξ∥^{2} + |λ|^{\frac{2}{d}})^{\frac{1}{2}}

pour ξ ∈ 𝔤^{∗} et λ ∈ P, et on définit la classe de symboles à paramètre S_{ρ,d}^{m}(𝔤^{∗}, P) comme l’espace des p_{λ} vérifiant les estimations :

|D^{α}p_{λ}(ξ)| ≤ C_{α}Λ_{d}(ξ, λ)^{m−ρ|α|}

Les semi-normes définies par les meilleures constantes C_{α} possibles munissent cet espace d’une structure de Fréchet. On construit aussi les variantes analytiques AS_{ρ,d}^{m,Q} et AS_{ρ,d}^{m} de manière évidente. Nous aurons besoin d’un calcul symbolique à paramètre, c’est-à-dire d’une version à paramètre du théorème I.1.2. La démonstration, strictement parallèle à celle du théorème 4.2 de [M1], est donnée en appendice.

Theorème I.2.4 (calcul symbolique à paramètre). Soit K un voisinage compact exponentiel de 0 dans 𝔤, assez petit pour que (exp K)^{2} soit l’image difféomorphe d’un voisinage K^{2} de 0 dans 𝔤. Alors si ρ > \frac{1}{2} il existe un voisinage compact Q de 0 contenu dans K tel que la loi # s’étend en une correspondance bilinéaire continue :

AS_{ρ,d}^{m_{1},Q}(𝔤^{∗}, P) × AS_{ρ,d}^{m_{2},Q}(𝔤^{∗}, P) ⟶ AS_{ρ,d}^{m_{1}+m_{2},Q^{2}}(𝔤^{∗}, P).

De plus dans le développement asymptotique :

p#q = ∑_{0}^{N} C_{k}(p, q) + R_{N}(p, q)

les C_{k} (resp. R_{N}) sont par ailleurs continus de AS_{ρ,d}^{m_{1},Q}(𝔤^{∗}, P) × AS_{ρ,d}^{m_{2},Q}(𝔤^{∗}, P) dans la

classe AS_{ρ,d}^{m_{1}+m_{2}−k(2ρ−1),Q+Q}(𝔤^{∗}, P) (resp. AS_{ρ,d}^{m_{1}+m_{2}−(N+1)(2ρ−1),(Q+Q)∪Q^{2}}(𝔤^{∗}, P)).

Soit Q un voisinage compact de 0 dans 𝔤 assez petit (voir § I.1), soit χ ∈ C^{∞}(𝔤) telle que χ = 1 au voisinage de 0 et soit, pour λ ∈ P et |λ| > R, le symbole q_{λ}^{1} ∈ AS_{1}^{m,Q}(λ) défini par :

q_{λ}^{1} = T^{Q}(\frac{1}{p_{λ}}).

Lemme I.2.5. Pour tout N ∈ ℕ et pour tout multi-indice α on a les estimations :

|D^{α}(q_{λ}^{1} − \frac{1}{p_{λ}})| ≤ C_{α,N}Λ_{m}(ξ, λ)^{−N}.

Démonstration. Du lemme I.2.3 on tire immédiatement les estimations :

|D^{α} \frac{1}{p_{λ}} (ξ)| ≤ C.Λ(ξ)^{− \frac{m}{2} − \frac{|α|}{2}} Λ(λ^{\frac{1}{m}})^{− \frac{m}{2} − \frac{|α|}{2}} .

D’après le théorème d’approximation à paramètre (proposition I.1.3) on a donc les estimations :

\begin{aligned}|D^{α} \frac{1}{p_{λ}} (ξ)| & ≤ C_{N,α}Λ(ξ)^{−N}Λ(λ^{\frac{1}{m}})^{−N} \\ & ≤ C_{N,α}Λ_{m}(ξ, λ)^{−N}. \end{aligned}

•

On déduit des lemmes I.2.3 et I.2.5 que le symbole à paramètre q_{λ}^{1} vérifie comme p_{λ}^{−1} les estimations du lemme I.2.3. On supposera, quitte à rajouter une constante, que p_{λ} ≠ 0 pour tout λ ∈ P et pour tout λ de module ≥ r, ce qui permet de construire la résolvante sur le secteur P en entier ainsi que sur le disque de rayon r.

Proposition I.2.6. La famille de symboles :

r_{λ}^{1} = p_{λ}#q_{λ}^{1} − 1

appartient à la classe de symboles à paramètre AS_{1,m}^{−1,Q}(𝔤^{∗}, P)

Démonstration. On écrit :

r_{λ}^{1} = (p_{λ}#q_{λ}^{1} − p_{λ}q_{λ}^{1}) + (p_{λ}q_{λ}^{1} − 1),

puis on applique le théorème I.2.4 et le lemme I.2.5.

•

Quitte à restreidre suffisamment le compact Q on peut construire une paramétrixe d’ordre N pour p_{λ}, en posant :

q_{λ}^{N} = q_{λ}^{1}# ∑_{p=0}^{N−1}(−1)^{p}(r_{λ})^{#p}, r_{λ}^{N} = (r_{λ}^{1})^{#N}.

Il est clair que l’on a :

p_{λ}#q_{λ}^{N} = 1 + r_{λ}^{N}

avec r_{λ}^{N} ∈ AS_{1,m}^{−N,Q}. Un raisonnement standard et un contrôle soigneux des supports des transformées de Fourier inverses ([M2] théorème I.3.6) permet de construire une paramétrixe q_{λ} ∈ AS_{1,m}^{−m,Q} d’ordre infini, c’est-à-dire telle que :

r_{λ} = p_{λ}#q_{λ} − 1 ∈ ⋂_{N} AS_{1,m}^{−N,Q}(𝔤^{∗}, P).

Un petit calcul classique (voir par exemple [He]) montre que la paramétrixe est bilatère, c’est-à-dire que l’on a également :

r′_{λ} = q_{λ}#p_{λ} − 1 ∈ ⋂_{N} AS_{1,m}^{−N,Q}(𝔤^{∗}, P).

Le calcul symbolique, l’approximation analytique T^{Q} et la construction de la paramétrixe préservent l’holomorphie par rapport au paramètre λ. La résolvante q_{λ} est donc holomorphe en λ.

I.3. Calcul fonctionnel holomorphe

Soit p un symbole polynomial elliptique de degré m sur 𝔤^{∗}, et soit P un secteur angulaire de ℂ tel qu’il existe R > 0 tel que p(ξ) ∉ P pour ∥ξ∥ > R. Soit φ une fonction holomorphe sur un voisinage conique ouvert V du complémentaire de P dans ℂ − {0} et vérifiant :

|φ(z)| ≤ C.(1 + |z|^{2})^{\frac{s}{2}}

avec s < 0. Si a ∉ P et a > r > 0, et si s < 0 la formule de Cauchy nous permet d’écrire pour tout a ∈ ℂ − P :

φ(a) = \frac{1}{2iπ} ∫_{Γ} \frac{φ(λ)}{λ − a} dλ,

où Γ ⊂ V est le contour ci-dessus, défini de la manière suivante : quitte à faire une rotation on suppose que le secteur P contient la demi-droite des réels négatifs. On se donne deux réels −π < a < b < π tels que les deux rayons d’argument a et b soient inclus à la fois dans V et dans l’intérieur de P, et on parcourt Γ en parcourant d’abord le rayon d’argument b jusqu’au cercle de rayon \frac{r}{2} (avec r < R), puis le cercle de rayon \frac{r}{2} dans le sens négatif, puis le rayon d’argument a en s’éloignant de l’origine. Compte tenu de la résolvante approchée construite en I.2 on est donc amené à poser :

φ ∘^{#} p(ξ) = −\frac{1}{2iπ} ∫_{Γ} φ(λ)q_{λ}(ξ) dλ.

Cette formule a un sens, la résolvante q_{λ} construite au § I.2 étant définie pour tout λ ∈ P ∪ B(0, R), donc pour tout λ ∈ Γ.

Proposition I.3.1.

φ ∘^{#} p appartient à la classe de symboles :

AS_{1}^{ms,Q}(𝔤^{∗}).

Démonstration. dans la formule :

D^{α}φ ∘^{#} p(tξ) = −\frac{1}{2iπ} ∫_{Γ} φ(λ)D^{α}q_{λ}(tξ) dλ

on suppose t ≥ 1 et on effectue le changement de variables λ ↦ t^{−m}λ. Le contour Γ est changé en Γ_{t} = t^{−m}Γ et il est clair que pour toute fonction holomorphe sur V son intégrale sur Γ_{t} est indépendante de t. On a donc :

D^{α}φ ∘^{#} p(tξ) = −\frac{1}{2iπ} t^{m} ∫_{Γ} φ(t^{m}λ)D^{α}q_{t^{m}λ}(tξ) dλ.

On a donc les estimations :

\begin{aligned}|D^{α}φ ∘^{#} p(tξ)| & ≤ C.t^{m} ∫_{Γ} |t^{m}λ|^{s}(∥tξ∥^{2} + |t^{m}λ|^{\frac{2}{m}})^{− \frac{1}{2} (m+|α|)} dλ \\ & ≤ C′.t^{ms−|α|} ∫_{Γ} |λ|^{s}(∥ξ∥^{2} + |λ|^{\frac{2}{m}})^{− \frac{1}{2} (m+|α|)} dλ \end{aligned}

d’où le résultat.

•

Remarque : il est a priori surprenant que ce résultat ne fasse pas intervenir les dérivées successives de la fonction holomorphe φ. Mais les estimations :

|φ^{(k)}(z)| ≤ C_{k}.(1 + |z|^{2})^{\frac{1}{2} (s−k)}

que l’on aurait envie d’imposer sont en fait automatiquement vérifiées pour ξ ∈ V. Pour le voir on part de la formule :

φ^{(k)}(tz) = \frac{1}{2iπ} ∫_{Γ} \frac{φ(ξ)}{(ξ − tz)^{k+1}} dξ

et on fait le même changement de variable que dans la démonstration de la proposition I.3.1. On obtient donc :

|φ^{(k)}(tz)| = \frac{t}{2π} |∫_{Γ} \frac{φ(tξ)}{(tξ − tz)^{k+1}} dξ|

≤ C.t ∫_{Γ} \frac{|tξ|^{s}}{|tξ − tz|^{k+1}} dξ

≤ C.t^{s−k} ∫_{Γ} \frac{|ξ|^{s}}{|ξ − z|^{k+1}} dξ.

Proposition I.3.2. Soient deux fonctions φ et ψ holomorphes sur P et vérifiant :

|φ(z)| ≤ C_{α}(1 + |z|^{2})^{\frac{m}{2}} , |ψ(z)| ≤ C′_{α}(1 + |z|^{2})^{\frac{m′}{2}} .

avec m, m′ < 0. Alors la différence :

(φ ∘^{#} p)#(ψ ∘^{#} p) − (φψ) ∘^{#} p

appartient à l’espace de Schwartz S(𝔤^{∗}).

Démonstration. On considère un contour Γ′ très proche de Γ, mais situé tout entier du côté opposé à P par rapport à Γ, défini en parcourant d’abord le rayon d’argument b − ε jusqu’au cercle de rayon r, puis le cercle de rayon r dans le sens négatif, puis le rayon d’argument a + ε en s’éloignant de l’origine. On choisit ε assez petit pour que les deux branches de Γ′ soient incluses dans P :

L’intégrale définissant φ ∘^{#} p ou ψ ∘^{#} p est la même en remplaçant Γ par Γ′.

Lemme I.3.3. Soient λ, μ ∈ ℂ avec λ ≠ μ et tels que p ne prenne pas ses valeurs en μ et en λ. Alors le symbole :

r_{λ,μ} = q_{λ}#q_{μ} − \frac{1}{λ − μ}(q_{λ} − q_{μ})

appartient à S(𝔤^{∗}), et on a les estimations :

|D^{α}r_{λ,μ}(ξ)| ≤ \frac{1}{|λ − μ|}C_{N,α}Λ(ξ)^{−N},

les constantes C_{N,α} étant indépendantes de λ et μ.

Démonstration. C’est une conséquence immédiate de la formule :

q_{λ}#q_{μ} = \frac{1}{λ − μ}q_{λ}#((p − μ) − (p − λ))#q_{μ}.

•

On a donc grâce au lemme I.3.3 :

\begin{aligned}φ ∘^{#} p#ψ ∘^{#} p & = −\frac{1}{4π^{2}} ∫_{Γ}∫_{Γ′} φ(λ)ψ(μ)q_{λ}#q_{μ} dμ dλ \\ & = −\frac{1}{4π^{2}} ∫_{Γ}∫_{Γ′} \frac{φ(λ)ψ(μ)}{λ − μ}(q_{λ} − q_{μ}) dμ dλ + θ, \end{aligned}

où θ appartient à l’espace de Schwartz S(𝔤^{∗}). En utilisant la formule de Cauchy pour ψ(λ) on obtient donc :

φ ∘^{#} p#ψ ∘^{#} p − θ = −\frac{1}{2iπ} ∫_{Γ′} φ(λ)ψ(λ)q_{λ} dλ + \frac{1}{4π^{2}} ∫_{Γ′}∫_{Γ} \frac{φ(λ)ψ(μ)}{λ − μ}q_{μ}dλ dμ.

La première intégrale est égale à (φψ) ∘^{#} p et la deuxième est nulle. la proposition I.3.2 est donc démontrée.

•

Lemme I.3.4. si φ(z) = z^{−N}, N ∈ ℕ − {0}, le symbole φ ∘^{#} p − (q_{0})^{#N} appartient à S(𝔤^{∗}).

Démonstration. Compte tenu le la proposition I.3.2 il suffit de démontrer le lemme pour N = 1. On a pour φ(z) = z^{−1}:

φ ∘^{#} p = −\frac{1}{2iπ} ∫_{Γ′′} λ^{−1}q_{λ} dλ

où Γ′′ est un cercle centré à l’origine, de rayon petit, et parcouru dans le sens négatif. On

a donc φ ∘^{#} p = q_{0}.

•

Lorsque l’ordre de croissance s est positif on posera donc :

φ ∘^{#} p = p^{#k}#((z^{−k}φ) ∘^{#} p).

où k est le plus petit entier ≥ −s. Compte tenu du lemme I.3.4 les propositions I.3.2 et I.3.3 sont encore vraies dans ce cadre. En particulier si on considère la famille de fonctions (φ_{a})_{a∈ℂ} définie par :

φ_{a}(z) = z^{a}

on a la propriété de groupe approchée :

φ_{a+b} ∘^{#} p − (φ_{a} ∘^{#} p)#(φ_{b} ∘^{#} p) ∈ S(𝔤^{∗}).

Remarque : Nous n’avons pas pu définir φ ∘^{#} p pour un symbole elliptique non polynomial dans AS_{1}^{m,Q}. En effet l’adaptation de la méthode de Seeley [S] n’est pas possible à cause de la nécessité de couper les hautes fréquences de la paramétrixe q_{λ}^{1} d’ordre 1, ce qui annule le gain en décroissance par rapport au paramètre que l’on aurait pu obtenir si on avait pu prendre q_{λ}^{1} = (p − λ)^{−1} et non une approximation analytique. Or cette opération est inutile dans le cas d’une algèbre de Lie nilpotente (on dispose d’un calcul symbolique avec les classes de symboles “ordinaires” S_{ρ}^{m}(𝔤^{∗}), ρ > \frac{1}{2} [M3]). On peut donc dans ce cas suivre

[S] et définir φ ∘^{#} p pour un symbole elliptique p ∈ S_{ρ}^{m}(𝔤^{∗}) quelconque.

II. Front d’onde d’un vecteur-distribution

Nous mettons en évidence à l’aide du calcul holomorphe de la première partie la régularité des opérateurs pseudo-différentiels p^{W,π} par rapport aux espaces de Sobolev H_{π}^{s}, dont la définition est rappelée en II.1. Nous définissons alors le front d’onde d’un vecteurdistribution, et nous dressons une liste de propriétés tout-à-fait analogues à celles du front d’onde d’une distribution. Les techniques employées sont standard ([D-H] § 6.1, [T] § VI.1).

Nous établissons ensuite le lien avec le front d’onde de la représentation, et enfin nous appliquons cette construction à l’étude des vecteurs C^{∞} et des vecteurs-distribution de la restriction de la représentation unitaire à un sous-groupe fermé.

II.1. Espaces de Sobolev-Goodman

Soit G un groupe de Lie réel connexe, 𝔤 son algèbre de Lie et 𝔤^{∗} son dual. Soit π une représentation unitaire de G dans un espace de Hilbert H_{π}. Soit H_{π}^{∞} l’espace des vecteurs C^{∞} de la représentation, dont le dual H_{π}^{−∞} constitue l’espace des vecteurs-distribution.

On se donne une base (X_{i})_{i=1,...,n} de 𝔤, et on considère le laplacien positif :

Δ = − ∑_{1}^{n} X_{i}^{2}

dans l’algèbre enveloppante U(𝔤). L’opérateur non borné π(1 + Δ) est positif et essentiellement auto-adjoint [Ne], ce qui permet de définir ses puissances fractionnaires grâce au théorème spectral.

On définit alors l’espace de Sobolev-Goodman H_{π}^{s} comme le domaine de l’opérateur π(1 + Δ)^{\frac{s}{2}} [Go]. L’espace H_{π}^{s}, indépendant du choix de la base, est un espace de Hilbert, le produit scalaire étant donné par :

< u, v >_{s}=< π(1 + Δ)^{\frac{s}{2}} u, π(1 + Δ)^{\frac{s}{2}} v >_{H_{π}} .

Dans le cas où G = ℝ^{n} et où π est sa représentation régulière, ces espaces coïncident avec les espaces de Sobolev usuels H_{s}(ℝ^{n}). Les H_{π}^{s} vérifient les propriétés suivantes :

1. Si s ≥ t alors H_{π}^{s} ⊂ H_{π}^{t} et l’inclusion est continue.

2. Le produit scalaire de H_{π} s’étend en une forme sesquilinéaire continue : H_{π}^{−s}×H_{π}^{s} ⟶ ℂ, et de ce fait H_{π}^{−s} s’identifie au dual de H_{π}^{s}.

3. L’espace des vecteurs-distribution H_{π}^{−∞} est la limite inductive des H_{π}^{s} lorsque s → −∞, et H_{π}^{∞} est la limite projective des H_{π}^{s} lorsque s → +∞.

II.2. Opérateurs pseudo-différentiels sur les espaces de représentations

On reprend les notations du § I. On associe [M2] à tout symbole p ∈ AS_{ρ}^{m}(𝔤^{∗}) l’opérateur de symbole de Weyl p dans l’espace de la représentation π, défini sur H_{π}^{∞} par :

p^{W,π}u = ∫_{𝔤} F^{−1}p(x)π(exp x) dx.

Cet opérateur est en général non borné lorsque m > 0, mais régularisant (c’est-à-dire qu’il transforme tout vecteur en vecteur C^{∞}) lorsque p appartient à l’espace de Schwartz S(𝔤^{∗}). On rappelle [M2] que lorsque p ∈ AS_{ρ}^{m_{1},Q} et q ∈ AS_{ρ}^{m_{2},Q} avec ρ > \frac{1}{2} et Q assez petit, le produit p#q est bien défini et on a :

p^{W,π} ∘ q^{W,π} = (p#q)^{W,π}.

Proposition II.2.1. Soit p ∈ AS_{ρ}^{m,Q}(𝔤^{∗}) avec ρ > \frac{1}{2} et Q assez petit. Alors p^{W,π} s’étend en un opérateur continu de H_{π}^{s} dans H_{π}^{s−m}.

Démonstration. Soit L(ξ) = 1 + ∑_{1}^{n} < ξ, X_{j} >^{2}. C’est un symbole polynomial elliptique d’ordre 2, et l’opérateur L^{W,π} est égal à π(1 + Δ). Soit q_{λ} une résolvante approchée de L. On applique le calcul fonctionnel du § I.3 à L, de sorte que si l’on pose :

p_{s} = φ ∘^{#} p avec φ(z) = z^{\frac{s}{2}}

l’opérateur L_{s}^{W,π} − (L^{W,π})^{\frac{s}{2}} est régularisant. On voit ceci en comparant les deux expressions :

L_{s}^{W,π} = −\frac{1}{2iπ} ∫_{Γ} λ^{\frac{s}{2}} q_{λ}^{W,π} dλ

et

(L^{W,π})^{\frac{s}{2}} = −\frac{1}{2iπ} ∫_{Γ} λ^{\frac{s}{2}} (L^{W,π} − λI)^{−1} dλ,

la deuxième expression ayant un sens si le rayon r choisi pour la construction du contour Γ est assez petit. En particulier L_{s}^{W,π} est continu de H_{π}^{t} dans H_{π}^{t−s} pour tout t.

Lemme II.2.2. Pour tout symbole p d’ordre 0 et pour tout réel s l’opérateur p^{W,π} est continu de H_{π}^{s} dans H_{π}^{s}.

Démonstration. On commence par montrer le lemme pour 0 ≤ s ≤ 1. Soit u ∈ H_{π}^{∞}. Les opérateurs p^{W,π} et (L_{s}#p − p#L_{s})^{W,π} étant continus de H_{π}^{0} dans H_{π}^{0} on a les estimations suivantes :

∥p^{W,π}u∥_{s} ≤ C.∥L_{s}^{W,π}p^{W,π}u∥_{0}
≤ C′.(∥p^{W,π}L_{s}^{W,π}u∥_{0} + ∥(L_{s}#p − p#L_{s})^{W,π}u∥_{0})
≤ C′′∥L_{s}^{W,π}u∥_{0} + C′′′∥u∥_{0}
≤ C′′′′∥u∥_{s}.

Réitérant l’argument précédent en remplaçant H_{π}^{0} par H_{π}^{1} on démontre le lemme pour 1 ≤ s ≤ 2, puis de proche en proche pour tout s ≥ 0. Un simple argument de dualité permet alors d’étendre le résultat pour s ≤ 0.

•

On finit la démonstration de la proposition en remarquant que si p est d’ordre m le symbole L_{−m}#p est d’ordre 0, ce qui implique [M2 corollaire I.4.2] que L_{−m}^{W,π} ∘ p^{W,π} est borné de H_{π} dans H_{π}. D’après le lemme II.2.2 cet opérateur L_{−m}^{W,π} ∘ p^{W,π} est borné de H_{π}^{s} dans H_{π}^{s} pour tout s, donc L_{m}^{W,π}L_{−m}^{W,π}p^{W,π} est continu de H_{π}^{s} dans H_{π}^{s−m}. Comme l’opérateur L_{m}^{W,π}L_{−m}^{W,π} est égal à l’identité modulo un opérateur régularisant, ceci termine la démonstration de la proposition II.2.1.

•

Remarque : Nous avons exprimé les puissances fractionnaires de L^{W,π} à l’aide d’une intégrale sur le contour Γ, ce qui est possible parce que L^{W,π} est auto-adjoint et L^{W,π} − I est positif. Il est possible de faire de même en remplaçant L par n’importe quel symbole p elliptique vérifiant les conditions du § I.3, à condition que la résolvante soit compacte (ce qui est le cas si la représentation est fortement traçable, voir par exemple [Hw], [M4]). En effet dans ce cas le spectre de p^{W,π} est discret, son intersection avec P est bornée donc finie, il est donc possible de choisir un contour Γ qui évite le spectre (voir [Shu § 9]). On définit ainsi φ(p^{W,π}) pour toute fonction φ holomorphe dans le secteur P, et en refaisant le calcul de la proposition I.3.2 on montre que pour deux fonctions holomorphes φ et ψ dans P on a :

φ(p^{W,π}) ∘ ψ(p^{W,π}) = (φψ)(p^{W,π}).

II.3. Définition et premières propriétés du front d’onde

Soit p ∈ AS_{ρ}^{0}(𝔤^{∗}) un symbole d’ordre zéro. On appelle ensemble caractéristique de p le cône défini par :

char p = {ξ ∈ 𝔤^{∗}/ lim inf_{t→+∞} p(tξ) = 0}.

On montre facilement que si ρ = 1 ce cône est fermé. On appelle front d’onde d’un vecteur-distribution u le cône fermé de 𝔤^{∗} défini par :

W F (u) = ⋂_{{p∈AS^{0}_{1}(𝔤^{∗}) \atop p^{W,π} u∈H^{∞}_{π}}} char p.

Le front d’onde d’ordre s du vecteur-distribution u est quant à lui défini pour tout réel s par :

W F_{s}(u) = ⋂_{{p∈AS^{0}_{1}(𝔤^{∗}) \atop p^{W,π} u∈H^{s}_{π}}} char p.

Les W F_{s}(u) forment une famille croissante de cônes fermés dont la réunion est le front d’onde W F (u). Par ailleurs pour tout g ∈ G on a la relation de covariance :

π(g) ∘ p^{W,π} ∘ π(g)^{−1} = (Ad^{∗} g.p)^{W,π},

qui implique que W F (u) et W F_{s}(u) sont covariants sous l’action coadjointe de G dans 𝔤^{∗} : pour tout g ∈ G on a :

W F (π(g)u) = Ad^{∗} g.W F (u)

et de même pour le front d’onde d’ordre s.

Le front d’onde défini ci-dessus vérifie quelques propriétés tout à fait similaires à celles vérifiées par le front d’onde d’une distribution. Rappelons [T § VI.1] qu’un symbole p ∈ S_{1}^{m}(𝔤^{∗}) est d’ordre −∞ sur un cône ouvert U si pour tout cône fermé K contenu dans U, pour tout N ∈ ℕ et pour tout multi-indice α il existe une constante C_{N,α,K} telle que pour tout ξ ∈ K :

|D_{p}^{α}(ξ)| ≤ C_{N,α,K}Λ(ξ)^{−N}.

Le support essentiel ES(p) d’un symbole p ∈ S_{1}^{m}(𝔤^{∗}) est le plus petit cône fermé de 𝔤^{∗}−{0} tel que p soit d’ordre −∞ sur son complémentaire. Le développement asymptotique du produit # en opérateurs bi-différentiels entraîne l’inclusion :

ES(p#q) ⊂ ES(p) ∩ ES(q).

Les deux propositions suivantes résument les propriétés essentielles du front d’onde. La démonstration, laissée au lecteur, est strictement parallèle à celle donnée dans [T § VI.1] dans le cas du front d’onde d’une distribution. L’ingrédient essentiel est l’existence d’une paramétrixe pour les symboles elliptiques.

Proposition II.3.1. Pour tout cône fermé C tel que W F (u) ∩ C = ∅ il existe un symbole q = 1 + a avec ES(a) ∩ C = ∅, tel que :

q^{W,π}u ∈ H_{π}^{∞}.

Proposition II.3.2. Soit u ∈ H_{π}^{−∞} et soit p un symbole dans AS_{1}^{m,Q}(𝔤^{∗}), avec Q assez petit. Alors :

1) Si ES(p) ∩ W F (u) = ∅ alors p^{W,π}u ∈ H_{π}^{∞}.

2) W F (p^{W,π}u) ⊂ W F (u) ∩ ES(p).

3) W F (u) ⊂ W F (p^{W,π}u) ∪ char p.

4) Si p est elliptique, W F (p^{W,π}u) = W F (u).

Le front d’onde d’ordre s admet également la caractérisation suivante :

Proposition II.3.3. Soit ξ ∈ 𝔤^{∗} − {0}. Alors ξ ∉ W F_{s}(u) si et seulement si on peut écrire u = u_{1} + u_{2} avec u_{1} ∈ H_{π}^{s} et ξ ∉ W F (u_{2}).

Démonstration. Si u admet la décomposition ci-dessus il est clair que ξ ∉ W F_{s}(u). Réciproquement si ξ ∉ W F_{s}(u) il existe un symbole p d’ordre zéro tel que p^{W,π}u ∈ H_{π}^{s} et ξ ∉ char p. Il existe donc un voisinage conique fermé C de ξ tel que p soit C-elliptique d’ordre zéro, c’est-à-dire vérifiant :

C_{1} ≤ |p(η)| ≤ C_{2}

pour η ∈ C et ∥η∥ assez grand. La construction de la paramétrixe (voir [He], [Hr1], [M2 prop. I.3.6] et aussi la démonstration de la proposition I.2.6) se restreint sans difficulté au cône C : on part d’un symbole q_{1} d’ordre zéro coïncidant avec 1/p sur C ∩ {∥η∥ ≥ R}, convenablement amputé de ses hautes fréquences. La construction de [M2 prop. I.3.6] (que nous reprenons dans la démonstration de la proposition I.2.6 dans le cas d’un symbole avec paramètre) aboutit à l’existence d’un symbole q d’ordre zéro tel que :

q#p = 1 + r

avec ES(r) ∩ C′ = ∅ pour tout cône ouvert C′ ⊂ C. On pose alors :

u_{1} = q^{W,π}p^{W,π}u et u_{2} = r^{W,π}u.

D’après la proposition II.2.1 u_{1} appartient à H_{π}^{s}, et d’après la proposition II.3.2 ξ n’appartient pas à W F (u_{2}).

•

II.4. Une autre caractérisation du front d’onde

Proposition II.4.1. Soit u ∈ H_{π}^{∞}, et soit T_{u} la distribution sur G à valeurs dans H_{π} définie par :

T_{u} = π(.)u.

Alors le front d’onde de u est égal à l’opposé du front d’onde en l’élément neutre de la distribution T_{u}.

Démonstration. Les vecteurs C^{∞} sont caractérisés de la façon suivante :

Lemme II.4.2. Pour tout p ∈ AS^{Q}(𝔤^{∗}), pour tout u ∈ H_{π}^{∞} et pour tout N ∈ ℕ on a :

∥p_{η}^{W,π}u∥ ≤ C_{N}∥η∥^{−N},

avec p_{η} = p(η + .).

Démonstration. Si u appartient à H_{π}^{∞} la fonction ψ : x ↦ F^{−1}p(x)π(exp x)u est C^{∞} à support compact, donc sa transformée de Fourier ψ̂ est à décroissance rapide sur 𝔤^{∗}. Or un petit calcul facile donne :

ψ̂(ξ) = p_{ξ}^{W,π}u.
•

Fin de la démonstration de la proposition II.4.1 : D’après la proposition II.3.1 un ξ ∈ 𝔤^{∗} − {0} est hors de W F (u) si et seulement s’il existe un voisinage conique V_{ξ} de ξ et un symbole q = 1 + a avec ES(a) ∩ V_{ξ} = ∅, tels que :

q^{W,π}u ∈ H_{π}^{∞}.

On peut supposer que V_{ξ} est convexe. Soit maintenant P un cône fermé contenu dans V_{ξ}. Pour tout η ∈ P le symbole q_{η} = 1 + a_{η} vérifie q_{η}^{W,π}u ∈ H_{π}^{∞}, et le support essentiel du symbole à paramètre a_{η} ne rencontre pas V_{ξ}. Le support essentiel de r_{−η} est quant à lui contenu dans V_{ξ}. Les supports des transformées de Fourier inverses de r_{−η} et a_{η} sont indépendants de η. Supposant ces supports assez petits on peut considérer le produit r_{−η}#a_{η}. Considérant le développement du produit # en opérateurs bi-différentiels ainsi que l’expression explicite du reste donnée en appendice on montre :

r_{−η}#a_{η} ∈ AS^{−∞}(𝔤^{∗}, P).

On en déduit que r_{−η}^{W,π}a_{η}^{W,π}u est à décroissance rapide en η, et donc finalement que r_{−η}^{W,π}u est aussi à décroissance rapide en η ∈ P, et ce pour tout r ∈ AS(𝔤^{∗}), ce qui veut dire que ξ n’appartient pas à −W F (T_{u}). L’inclusion réciproque, laissée au lecteur, se démontre en remontant le raisonnement.

•

Il nous reste à comparer le front d’onde d’un vecteur-distribution avec le front d’onde d’une représentation tel qu’il a été défini par R. Howe [Hw]. Le front d’onde W F_{π} de la représentation π est une partie conique fermée de T^{∗}G − {0} invariante par translation à gauche et à droite. Il est donc entièrement déterminé par son intersection W F_{π}^{e} avec l’espace cotangent en l’élément neutre, qui est un cône fermé Ad^{∗} G-invariant de 𝔤^{∗}. Le critère vii) du théorème 1.4 de [Hw] montre que W F_{π}^{e} est le front d’onde en e de la distribution π(.) à valeurs opérateurs. L’analogue de la proposition II.4.1, dont la démonstration est identique, nous donne une définition alternative pour le front d’onde d’une représentation unitaire :

Proposition II.4.3.

W F_{π}^{e} = − ⋂_{p∈AS^{0}_{1}(𝔤^{∗}) p^{W,π}régularisant} char p.

En corollaire immédiat nous avons l’inclusion :

W F (u) ⊂ −W F_{π}^{e}

pour tout vecteur-distribution u, et plus précisément :

W F_{π}^{e} = − ⋃_{u∈H_{π}^{−∞}} W F (u).

Soit maintenant u ∈ H_{π}^{−∞}, soit φ une distribution à support compact sur G, et soit π(φ) l’opérateur (non borné) qu’elle définit sur l’espace H_{π}. Le domaine de π(φ) contient H_{π}^{∞}. A quelle condition le vecteur π(φ)u est-il un vecteur C^{∞}?

La réponse à cette question est un analogue du théorème III.7 de [M4] pour un vecteurdistribution : désignons par WF(u) la plus petite partie conique fermée de T^{∗}G − {0} invariante par translation à gauche et à droite contenant W F (u).

Proposition II.4.4. Supposons que H_{π} soit un espace de Hilbert séparable. Soit u ∈ H_{π}^{−∞}. Alors pour toute distribution φ ∈ E′(G) telle que :

W F (φ) ∩ WF(u) = ∅,

on a :

π(φ)u ∈ H_{π}^{∞}.

Démonstration. comme la convolution par un élément de l’algèbre enveloppante respecte le front d’onde, il suffit de montrer que π(φ)u appartient à H_{π} pour toute distribution φ ∈ E′(G) vérifiant les conditions du théorème. On procède alors comme pour le théorème III.4 de [M4]. On remarque d’abord (cf [M4], prop. III.2 et corollaire III.3) que le front d’onde de la convolée φ^{∗} ∗ φ ne rencontre pas WF(u). Pour tout v ∈ H_{π}^{−∞} le front d’onde du coefficient-distribution :

C_{u,v} =< π(.)u, v >

est contenu dans −WF(u). C’est en particulier vrai pour le coefficient-distribution diagonal C_{u,u}.

Désignons par p_{t} le noyau de la chaleur sur le groupe G. Lorsque t tend vers 0 la quantité ∥π(p_{t})π(φ)u∥_{2}^{2} converge en croissant vers ℓ =< (φ^{∗} ∗ φ).C_{u,u}, 1 >, la condition sur les fronts d’onde rendant licite le produit des deux distributions. Par ailleurs si (e_{i}) désigne une base orthonormée de H_{π} formée de vecteurs C^{∞}, on a :

∥π(p_{t})π(φ)u∥_{2}^{2} = ∑_{i} | < u, π(p_{t})π(φ^{∗})e_{i} > |^{2}.

Il résulte du théorème de convergence monotone que la somme :

∑_{i} | < u, π(φ^{∗})e_{i} > |^{2} = ∑_{i} | < π(φ)u, ei > |^{2}

converge vers la limite finie ℓ ci-dessus, ce qui veut dire que u appartient à H_{π}.

•

II.5. Restrictions

Soit G un groupe de Lie connexe, π une représentation unitaire de G et H un sousgroupe fermé de G. On note comme précédemment H_{π}^{∞}, H_{π}^{−∞} et H_{π}^{s} l’espace des vecteurs C^{∞}, des vecteurs-distribution et de Sobolev-Goodman respectivement, pour la représentation π. On note H_{π|_{H}}^{∞}, H_{π|_{H}}^{−∞} et H_{π|_{H}}^{s} les espaces analogues relativement à la restriction de

π au sous-groupe H.

Soit (X_{1}, …, X_{m}) une base de l’algèbre de Lie 𝔥 du sous-groupe H, que l’on complète en une base X_{1}, …, X_{n} de l’algèbre de Lie 𝔤 de G. Considérant les laplaciens respectifs Δ_{G} = −(X_{1}^{2} + ⋯ + X_{n}^{2}) et Δ_{H} = −(X_{1}^{2} + ⋯ + X_{m}^{2}) du groupe G et du sous-groupe H, l’espace H_{π}^{s} (resp. H_{π|_{H}}^{s}) est le domaine de l’opérateur π(1 + Δ_{G})^{s} (resp. π(1 + Δ_{H})^{s}).

On a donc les inclusions suivantes :

Proposition II.5.1.

\begin{matrix}H_{π}^{∞} ⊂ H_{π|_{H}}^{∞}  H_{π|_{H}}^{−∞} ⊂ H_{π}^{−∞} \\ H_{π}^{s} ⊂ H_{π|_{H}}^{s} si s ≥ 0  H_{π|_{H}}^{s} ⊂ H_{π}^{s} si s ≤ 0 \end{matrix}

On peut se demander inversement à quelle condition un vecteur C^{∞} pour π|_{H} est un

vecteur C^{∞} pour π, et à quelle condition un vecteur-distribution pour π est un vecteurdistribution pour la restriction π|_{H} :

Theorème II.5.2. 1). Soit u ∈ H_{π|_{H}}^{∞}. Considérant alors u comme un vecteur-distribution de π on a l’inclusion :

W F (u) ⊂ 𝔥^{⊥}.

2). Soit v ∈ H_{π}^{−∞}. Alors si W F (v) ∩ 𝔥^{⊥} = ∅ le vecteur-distribution v est un vecteurdistribution pour la restriction π|_{H}.

Démonstration. Soit ξ ∉ 𝔥^{⊥}. Alors il existe un voisinage conique V de ξ tel que le symbole polynomial q(ξ) = 1 + ξ_{1}^{2} + ⋯ + ξ_{m}^{2} soit V-elliptique d’ordre 2, c’est-à-dire qu’il vérifie :

C_{1}Λ(ξ)^{2} ≤ q(ξ) ≤ C_{2}Λ(ξ)^{2}

pour tout ξ ∈ V. Pour tout entier positif k le symbole q^{#k} est alors V-elliptique d’ordre 2k. Il existe donc un symbole s_{k} tel que ES(s_{k}) ∩ V = ∅ et tel que :

q^{#k} = r_{k} + s_{k}

où r_{k} est elliptique d’ordre 2k. Soit r_{−k} une paramétrixe pour r_{k}. Soit u ∈ H_{π|_{H}}^{∞}. On a

alors :

r_{−k}^{W,π}(q^{#k})^{W,π}u = (r_{−k}#r_{k})^{W,π}u + (r_{−k}#s_{k})^{W,π}u,

soit encore :

u = −(r_{−k}#s_{k})^{W,π}u + r_{−k}^{W,π}(q^{#k})^{W,π}u + (1 − r_{−k}#r_{k})^{W,π}u.

ξ n’appartient pas au front d’onde du premier terme grâce au 2) de la proposition II.3.1, le deuxième terme appartient à H_{π}^{2k} grâce à la proposition II.2.1 et grâce au fait que (q^{#k})^{W,π}u appartient à H_{π} pour tout k, et enfin le troisième terme appartient à H_{π}^{∞} par définition d’une paramétrixe. On a donc :

u = u_{1} + u_{2}

où ξ ∉ W F (u_{1}) et u_{2} ∈ H_{2k}, ce qui équivaut au fait (cf prop. II.3.3) que ξ n’appartient pas à W F_{2k}(u). Ceci étant vrai pour tout k on en déduit le 1) du théorème.

Pour démontrer le 2) on considère un v ∈ H_{π}^{−∞} tel que W F (v) ∩ 𝔥^{⊥} = ∅. D’après la proposition II.3.1 il existe alors un symbole p = 1 + r avec p^{W,π}v ∈ H_{π}^{∞} et ES(r) ∩ 𝔥^{⊥} = ∅. Pour tout entier k ≥ 0 on considère alors une paramétrixe δ_{k} pour le symbole (1 + ξ_{1}^{2} + ⋯ + ξ_{m}^{2})^{#k} vu comme elliptique sur 𝔥^{∗}, et on en fait un symbole sur 𝔤^{∗} en posant :

ε_{k}(ξ) = δ_{k}(ξ + 𝔥^{⊥})

moyennant l’identification de 𝔥^{∗} avec 𝔤^{∗}/𝔥^{⊥}. On voit alors que ε_{k}#r est un symbole d’ordre −2k sur 𝔤^{∗}, et donc d’après la proposition II.2.1 (1 − Δ_{H})^{−k}r^{W,π} envoie H_{π}^{s} dans H_{π}^{s+2k}. On écrit alors :

ε_{k}^{W,π}v = ε_{k}^{W,π}p^{W,π}v − (δ_{k}#r)^{W,π}v

d’où finalement, si v appartient à H_{π}^{s} on a :

(1 − Δ_{H})^{−k}v ∈ H_{π}^{s+2k}.

d’où (1 − Δ_{H})^{−k}v ∈ H_{π} pour k assez grand, ce qui veut dire que v est un vecteurdistribution pour la restriction π|_{H}.

III. Propagation des singularités

III.1. Symboles classiques

On désigne par Cl^{m}(𝔤^{∗}) la classe des symboles classiques d’ordre m, c’est-à-dire qui admettent un développement asymptotique :

p ≃ p_{m} + p_{m−1} + ⋯

où p_{m−j} est positivement homogène de degré m − j. On note A Cl^{m,Q} et A Cl^{m} les intersections Cl^{m} ∩AS_{1}^{m,Q} et Cl^{m} ∩AS_{1}^{m} respectivement. D’après le théorème d’approximation il existe pour tout p ∈ Cl^{m} un symbole p̃ dans A Cl^{m,Q} ayant le même développement asymptotique que p. On appelle symbole principal le terme positivement homogène de plus haut degré.

III.2. Une forme faible de l’inégalité de Gårding précisée

On peut établir une inégalité de Gårding qui s’énonce ainsi : lorsque p est un symbole hypoelliptique positif il existe une constante C telle que p^{W,π} +CI soit un opérateur positif [M2 prop. I.4.1]. Lorsque p est seulement supposé positif sans hypothèse d’hypoellipticité un substitut possible est une forme faible de l’inégalité de Gårding précisée :

Theorème III.2.1. Soit p ∈ AS_{ρ}^{m,Q}(𝔤^{∗}) avec ρ > \frac{1}{2} et Q assez petit. On suppose p(ξ) ≥ 0 pour tout ξ ∈ 𝔤^{∗}. Alors pour tout ε > 0 il existe une constante C_{ε} telle que pour tout u ∈ H_{π}^{∞} :

< p^{W,π}u, u >≥ −C_{ε}∥u∥2_{\frac{m−(ρ−1/2−ε)}{2}} .

Démonstration. On se ramène à l’inégalité de Gårding simple de la façon suivante : soit m_{0} = m − (ρ − \frac{1}{2} − ε). On suppose ε ≤ ρ − \frac{1}{2}, de sorte que m_{0} ≤ m. On pose :

p̃_{m_{0}}(ξ) = p(ξ) + Λ(ξ)^{m_{0}}

et pose p_{m_{0}} = T^{Q}(p̃_{m_{0}}) (cf § I.1). On a l’encadrement :

C_{1}Λ(ξ)^{m_{0}} ≤ p_{m_{0}}(ξ) ≤ C_{2}Λ(ξ)^{m},

et les estimations :

|D^{α}p_{m_{0}}(ξ)| ≤ C′_{α}Λ(ξ)^{(ρ−m+m_{0})|α|}

ce qui veut dire que p_{m_{0}} est un symbole hypoelliptique appartenant à la classe :

AHS_{δ}^{m,m_{0},Q}(𝔤^{∗})

avec δ = ρ − m + m_{0} = \frac{1}{2} + ε. Il existe donc [M2 prop. I.3.7] une racine carrée approchée q_{m_{0}} ∈ AHS_{δ}^{m/2,m_{0}/2,Q} telle que :

q_{m_{0}}#q_{m_{0}} = p_{m_{0}} + r_{m_{0}}

avec r_{m_{0}} ∈ S(𝔤^{∗}). On en déduit :

< p_{m_{0}}^{W,π}u, u >≥< r_{m_{0}}^{W,π}u, u >,

d’où finalement :

\begin{aligned}< p^{W,π}u, u > & =< p_{m_{0}}^{W,π}u, u > + < (Λ^{m_{0}})^{W,π}u, u > \\ & ≥ C_{m_{0}}∥u∥_{m_{0}/2}^{2} + C′_{m_{0},s}∥u∥_{s}^{2} \end{aligned}

d’après la proposition II.2.1. Posant s = m_{0}/2 on a donc le résultat.

•

III.3. Théorème de propagation des singularités

On rappelle qu’une bicaractéristique d’une fonction a ∈ C^{∞}(𝔤^{∗}) est une courbe intégrale du champ hamiltonien H_{a}. Comme on a :

H_{a}.a = {a, a} = 0,

la fonction a est constante le long de ses bicaractéristiques. Une bicaractéristique nulle est une bicaractéristique sur laquelle la fonction a s’annule.

Nous pouvons maintenant énoncer le résultat principal, dont la démonstration occupera le reste du paragraphe :

Theorème III.3.1 (Propagation des singularités). Soit p ∈ A Cl^{m}(𝔤^{∗}), soit a la partie réelle du symbole principal p_{m} de p. On se donne un segment γ : [t_{0}, t_{1}] → 𝔤^{∗} −{0} de bicaractéristique nulle pour a, et on suppose que la partie imaginaire de p_{m} est positive sur un voisinage de γ.

Soit u un vecteur-distribution tel que W F_{s}(p^{W,π}u)∩γ = ∅. Alors pour tout δ ∈]0, 1/2[, si γ(t_{1}) ∉ W F_{s+m−δ}(u) on a : W F_{s+m−δ}(u) ∩ γ = ∅.

Démonstration. Nous suivons de près la démonstration de M.E. Taylor [T. § VI.2] pour une distribution sur une variété. La seule différence notable est la nécessité de se limiter à δ < 1/2 dans notre contexte, alors que l’on peut prendre δ = 1 dans le cas d’une distribution. Cette restriction est déjà présente dans la forme faible de l’inégalité de Gårding précisée (Théorème II.4.1), et provient en définitive de la restriction “ρ > 1/2” dans le calcul symbolique.

On peut se ramener au cas où m = δ : pour ce faire on multiplie p^{W,π} à gauche par un opérateurs e^{W,π} où e est réel elliptique d’ordre δ − m. Le symbole principal de e#p est e_{δ−m}p_{m}, sa partie réelle est ae_{m}, et il est facile de voir que les bicaractéristiques de a et de ap_{m} sont les mêmes.

On suppose donc p d’ordre δ. Par ailleurs si le théorème est démontré pour une valeur particulière de s on l’obtient pour les autres valeurs en appliquant à u un opérateur q^{W,π} avec q elliptique d’ordre bien choisi. Dans la démonstration on peut donc supposer que s est tel que u ∈ H_{π}^{s−δ/2}.

Soit donc γ : [t_{0}, t_{1}] → 𝔤^{∗} − {0} un segment de bicaractéristique nulle pour a = Re p_{δ}, soit C un voisinage conique de γ, et soit M une partie bornée de AS_{1}^{s}(𝔤^{∗}) constituée de symboles de AS_{1}^{s−δ}(𝔤^{∗}) à valeurs réelles, d’ordre s − δ, et dont le support essentiel est contenu dans C. On considère la décomposition :

p = a + ib

avec b ≥ 0 sur C.

Lemme III.3.2. Il existe deux constantes C_{1} et C_{2} telles que pour tout c ∈ M on a l’encadrement :

\frac{1}{2} < \{a, c^{2}\}^{W,π}u, u > −C_{1}∥c^{W,π}u∥^{2} ≤ Im < c^{W,π}p^{W,π}u, c^{W,π}u > +C_{2} ≤ C_{2}+

+\frac{1}{2}(∥c^{W,π}u∥^{2} + ∥c^{W,π}p^{W,π}u∥^{2}).

Démonstration. La seconde inégalité est immédiate. Pour la première on écrit :

Im < c^{W,π}p^{W,π}u, c^{W,π}u > = Re < b^{W,π}c^{W,π}u, c^{W,π}u >
+ Re < [c^{W,π}, b^{W,π}]u, c^{W,π}u >
+ Im < [c^{W,π}, a^{W,π}]u, c^{W,π}u >,

et on minore successivement les trois termes du membre de droite. Comme b ≥ 0 sur C, l’application de l’inégalité de Gårding précisée (théorème II.4.1) avec ε = 1/2 − δ donne pour le premier terme :

< b^{W,π}c^{W,π}u, c^{W,π}u >≥ −C.∥c^{W,π}u∥^{2}

où la constante C ne dépend pas de c ∈ M. Pour la minoration du deuxième terme on écrit :

< [c^{W,π}, b^{W π}]u, c^{W,π}u >=< c^{W,π}[c^{W,π}, b^{W π}]u, u > .

Le symbole principal de l’opérateur c^{W,π}[c^{W,π}, b^{W π}] est ic{c, b} qui est purement imaginaire et d’ordre 2s−δ−1. Compte tenu des propriétés du calcul symbolique le symbole principal de la partie réelle est donc d’ordre 2s − δ − 2. L’opérateur c^{W,π}[c^{W,π}, b^{W π}] envoie donc continûment H_{π}^{s−δ/2} dans H^{−s+2+δ/2}, et d’après les hypothèses sur M on a les estimations :

∥c^{W,π}[c^{W,π}, b^{W π}]u∥_{−s+2− \frac{3δ}{2}} ≤ C∥u∥_{s− \frac{δ}{2}}

où C la constante C est indépendante de c ∈ M. Comme δ < 1/2 on a a fortiori :

∥c^{W,π}[c^{W,π}, b^{W π}]u∥_{−s+ \frac{δ}{2}} ≤ C∥u∥_{s− \frac{δ}{2}} .

On en déduit donc une minoration pour le deuxième terme :

Re < [c^{W,π}, b^{W,π}]u, c^{W,π}u >≥ −C′′

où C′′ est indépendante de c ∈ M. Enfin pour le troisième terme on remarque que le symbole principal de l’opérateur c^{W,π}[c^{W,π}, a^{W π}] est ic\{c, a\} = \frac{i}{2}\{c^{2}, a\} qui est d’ordre 2s − δ − 1, et que l’opérateur c^{W,π}[c^{W,π}, a^{W π}] − ic{c, a}^{W,π} est d’ordre 2s − δ − 2. Par un raisonnement analogue on obtient la minoration :

Im < [c^{W,π}, a^{W,π}]u, c^{W,π}u >≥ \frac{1}{2} < \{a, c^{2}\}^{W,π}u, u > −C′′′

où la constante C′′′ est indépendante de c ∈ M. Réunissant les trois minorations on en déduit le lemme.

•

Lemme III.3.3. Soit e = {a, c^{2}} − (2C_{1} + 1)c^{2} où C_{1} est la constante donnée par le lemme III.2.2. Alors il existe une constante C_{3} indépendante de c ∈ M telle que :

Re < e^{W,π}u, u >≤ C_{3}.

Démonstration. Cela découle facilement du fait que l’ensemble {c^{W,π}p^{W,π}u, c ∈ M} est borné dans H_{π}^{0}.

•

Nous allons maintenant construire une famille M particulière vérifiant les propriétés demandées. Nous aurons pour cela besoin du lemme suivant :

Lemme III.3.4. Supposons que le champ hamiltonien H_{a} soit non radial en γ(t_{0}). Soit U un voisinage conique de γ(t_{1}). Alors il existe trois symboles c, a_{0}, a_{1} tels que :

1) c est positivement homogène de degré s, a son support dans C, et c(ξ) ≤ 0 pour tout ξ ∈ 𝔤^{∗} − {0}.

2) {a, c} ≥ 0 sur C\U et {a, c} > 0 sur γ\U.

3) a_{0} ∈ S_{1}^{0}(𝔤^{∗}) et {a, a_{0}} = 1 sur un voisinage de γ.

4) a_{1} ∈ S_{1}^{1}(𝔤^{∗}) et {a, a_{1}} ne s’annule pas sur γ.

Démonstration. Remarquons tour d’abord que si le hamiltonien H_{a} est radial en γ(t_{0}), alors par homogénéité de H_{a} la bicaractéristique passant par γ(t_{0}) est elle aussi radiale. Comme les fronts d’onde sont par définition coniques le théorème III.3.1 est trivial dans ce cas-là.

Supposons donc le champ hamiltonien H_{a} non radial en γ(t_{0}). Il existe alors une hypersurface conique Ω ⊂ 𝔤^{∗}−{0} passant par γ(t_{0}) et transverse à à H_{a} dans un voisinage conique de γ(t_{0}). Soit g ∈ C^{∞}(𝔤^{∗} − {0}), positive, positivement homogène de degré s, et telle que g(γ(t_{0})) > 0. On résout alors l’équation de transport :

\begin{matrix}H_{a}.c = g \\ c|_{Ω} = 0. \end{matrix}

ce qui nous donne un symbole c positivement homogène de degré s et tel que {a, c} > 0 sur γ. Quitte à le tronquer on obtient facilement un symbole c vérifiant les conditions 1 et 2 du lemme. La construction de a_{0} et a_{1} se fait de manière analogue.

•

Fin de la démonstration du théorème : on définit la famille M par :

M = {T^{Q}c_{λ,ε}, 0 < ε ≤ 1}

où λ est un réel à fixer ultérieurement et T^{Q} est l’opérateur de régularisation du § I.1. Le symbole c_{λ,ε} est quant à lui défini par :

c_{λ,ε}(ξ) = c(ξ)e^{λa_{0}(ξ)}(1 + ε^{2}a_{1}^{2}(ξ))^{− \frac{1}{2}} .

On pose également :

\begin{aligned}e_{λ,ε} & = \{a, c_{λ,ε}^{2}\} − (2C_{1} − 1)c_{λ,ε}^{2} \\ & = (\{a, c^{2}\} + (2λ − 2C_{1} − 1)c^{2})e^{2λa_{0}}(1 + ε^{2}a_{1}^{2})^{−1}. \end{aligned}

Fixons λ ≥ \frac{1}{2}(2C_{1}+1). Le symbole (\{a, c^{2}\}+(λ−2C_{1}−1)c^{2})e^{λa_{0}} est d’ordre 2s, positif sur C\U et strictement positif sur γ\U. Il existe donc q et r symboles positivement homogènes d’ordre s positifs sur C avec supp q ⊂ U et r > 0 sur C tels que :

r^{2} ≤ ({a, c^{2}} + (λ − 2C_{1} − 1)c^{2})e^{λa_{0}} + q^{2},

ce qui s’écrit encore :

q_{ε}^{2} + e_{λ,ε} − r_{ε}^{2} ≥ 0,

avec r_{ε} = r(1 + εa_{1}^{2})^{−1/2} et q_{ε} = q(1 + εa_{1}^{2})^{−1/2}.

L’inégalité de Gårding précisée (Théorème II.4.1) s’applique au T^{Q}(q_{ε}^{2} + e_{λ,ε} − r_{ε}^{2}) qui est positif à un élément de S(𝔤^{∗}) près. On a donc :

< r̃_{ε}^{2}^{W,π}u, u >≤< e_{λ,ε}^{W,π}u, u > + < q̃_{ε}^{2}^{W,π}u, u > +C_{4},

(le tilde sur un symbole signifie qu’on lui applique l’opérateur de régularisation T^{Q}) d’où on tire facilement :

\begin{aligned}∥r̃_{ε}u∥_{0}^{2} & ≤< e_{λ,ε}^{W,π}u u > +∥q̃_{ε}^{W,π}∥_{0}^{2} + C_{4} \\ & ≤ C_{5}. \end{aligned}

Les constantes C_{4} et C_{5} sont indépendantes de ε. En faisant tendre ε vers zéro on a donc :

∥r^{W,π}u∥_{0}^{2} ≤ C_{5}

avec un symbole r̃ qui est C-elliptique, c’est-à-dire qui vérifie :

C′Λ(ξ)^{s} ≤ r̃(ξ) ≤ C′′Λ(ξ)^{s}

pour ∥ξ∥ assez grand. Il existe donc (cf. la démonstration de la proposition II.3.2) un symbole a d’ordre −s tel que :

a#r̃ = 1 + b

avec ES(b) ∩ C = ∅. On a donc la décomposition :

u = a^{W,π}r^{W,π}u − b^{W,π}u

avec a^{W,π}r^{W,π}u ∈ H_{π}^{s} et γ ∩ W F (b^{W,π}u) = ∅. D’après la proposition II.3.2 ceci implique que W F_{s}(u) ne rencontre pas γ.

•

Si le symbole principal p_{m} est réel on peut inverser la direction du temps. Au vu de l’égalité :

W F (u)\W F (p^{W,π}u) = ⋃_{t} ⋂_{s≥t} W F_{s+m−δ}(u)\W F_{s}(p^{W,π}u)

on a :

Corollaire III.3.5. Soit p ∈ A Cl^{m}(𝔤^{∗}) dont la partie principale p_{m} est réelle. Alors pour tout vecteurdistribution u, pour tout réel s et pour tout δ ∈]0, 1/2[, l’ensemble :

W F_{s+m−δ}(u)\W F_{s}(p^{W,π}u)

est invariant par le flot du champ hamiltonien H_{p_{m}}, de même que l’ensemble :

W F (u)\W F (p^{W,π}u).

Appendice : calcul symbolique à paramètre

Nous démontrons ici le théorème I.2.4 en adaptant la démonstration du théorème 4.2 de [M1]. Soit V un espace vectoriel réel de dimension finie et P un cône fermé dans un espace vectoriel normé quelconque (typiquement, un secteur du plan complexe comme au § I.2). La structure de Fréchet de l’espace S_{ρ,d}^{m}(V, P) est donnée par les semi-normes :

N_{ρ,d}^{m,α}(p_{λ}) = sup_{ξ} Λ_{d}(ξ, λ)^{−m+ρ|α|}|D^{α}p_{λ}(ξ)|.

On considérera également la famille de semi-normes indexée par ℕ :

P_{ρ,d}^{m,k}(p_{λ}) = sup_{|α|≤k} N_{ρ,d}^{m,α}(p_{λ}).

Pour tout voisinage compact Q de 0 dans V le sous-espace AS_{ρ,d}^{m,Q}(V, P) de S_{ρ,d}^{m}(V, P) est fermé. On désigne par AS^{−∞,Q}(V, P) l’intersection lorsque m parcourt ℝ des AS_{ρ,d}^{m,Q}(V, P). C’est l’ensemble des p_{λ} tels que F^{−1}p a son support inclus dans Q, qui appartiennent à S(V) pour tout λ et tels que les semi-normes :

sup_{ξ} Λ(ξ)^{m}|D^{α}p_{λ}(ξ)|

soient à décroissance rapide en λ ∈ P. Dans la suite on prendra V = 𝔤^{∗} ou V = 𝔤^{∗} × 𝔤^{∗}.

Lemme A.1 (cf. [M1 prop. 2.5]). Soit Q un voisinage compact de 0 dans V, et soit ψ une fonction analytique sur V^{∗} dont la série entière à l’origine converge sur Q. Alors l’opérateur ψ(D) = F ∘ ψ ∘ F^{−1} envoie continûment AS_{ρ,d}^{m,Q}(V, P) dans AS_{ρ,d}^{m,Q}(V, P).

Soit maintenant W un voisinage étoilé de 0 dans l’algèbre de Lie 𝔤 tel que (exp W)^{2} soit l’image difféomorphe par l’exponentielle d’un voisinage W^{2} de 0. Pour tout t ∈ [0, 1] et pour tout x, y dans W on pose :

x ._{t} y = t^{−1} Log(exp tx. exp ty)

= x + y + \frac{t}{2}[x, y] + \frac{t^{2}}{12}([x, [x, y]] + [y, [y, x]]) + ⋯

En appliquant la formule de Taylor en t = 1 à :

p_{λ} #_{t} q_{λ}(ξ) = ∫∫_{𝔤×𝔤} F^{−1}p_{λ}(x)F^{−1}q_{λ}(y)e^{−i<x ._{t} y,ξ>} dx dy

on obtient le développement asymptotique en opérateurs bidifférentiels donné dans l’énoncé du théorème, avec :

C_{k}(p_{λ}, q_{λ})(ξ) = \frac{1}{k!} ∫∫_{𝔤×𝔤} F^{−1}p_{λ}(x)F^{−1}q_{λ}(y)\frac{d^{k}}{dt^{k}} |_{t=0}e^{−i<x ._{t} y,ξ>} dx dy,

et

R_{N}(p_{λ}, q_{λ})(ξ) = \frac{1}{N!} ∫_{0}^{1}(1 − t)^{N} ∫∫_{𝔤×𝔤} F^{−1}p_{λ}(x)F^{−1}q_{λ}(y)\frac{d^{k}}{dt^{k}} e^{−i<x ._{t} y,ξ>} dx dy dt.

On rappelle le résultat suivant :

Lemme A.2 ([M1 lemma 4.3]). Pour tout k ≥ 0 on a :

\frac{d^{k}}{dt^{k}} e^{−i<x ._{t} y,ξ>} = ψ_{k}(x, y, ξ, t)e^{−i<x ._{t} y,ξ>}

où ψ_{k} est une fonction analytique polynomiale en ξ, dont la série entière à l’origine converge pour tout t ∈ [0, 1] et x, y ∈ W. On a plus précisément :

ψ(x, y, ξ, t) = ∑_{r=1}^{k} ψ_{k}^{r}(x, y, ξ, t)

où ψ_{k}^{r} est polynomiale homogène de degré r en ξ. De plus le développement en série entière par rapport à t s’écrit :

ψ_{k}^{r}(x, y, ξ, t) = ∑_{s≥k+r} ψ_{k}^{r,s}(x, y, ξ)t^{s−k−r},

où ψ_{k}^{r,s} est polynomiale en les variables x, y, ξ, de valuation ≥ r par rapport à x, de valuation s par rapport à (x, y), de valuation ≥ r par rapport à chacune des variables x et y, et homogène de degré r par rapport à ξ.

Le lemme A.2 entraîne immédiatement que les C_{k} sont des opérateurs bi-différentiels à coefficients polynomiaux qui réalisent pour tout voisinage compact Q de 0 dans W une correspondance bilinéaire continue :

AS_{ρ,d}^{m_{1},Q}(𝔤^{∗}, P) × AS_{ρ,d}^{m_{2},Q}(𝔤^{∗}, P) ⟶ AS_{ρ,d}^{m_{1}+m_{2}−(2ρ−1)k,Q+Q}(𝔤^{∗}, P).

La difficulté réside donc dans l’estimation du reste R_{N}. On considère [Me2] pour tout t ∈ [0, 1] l’application :

\begin{matrix}S_{t} : W × W & ⟶ 𝔤 × 𝔤 \\ (x, y) & ⟶ \frac{1}{2}(x − y + x ._{t} y, y − x + x ._{t} y). \end{matrix}

Il existe un voisinage ouvert Ω ⊂ W tel que pour tout t ∈ [0, 1] cette application S_{t} soit un difféomorphisme sur son image. On notera K_{t} le jacobien de S_{t}.

Soit Q un voisinage compact de 0 dans 𝔤 contenu dans Ω. On considère l’opérateur B_{t} défini sur AS^{−∞,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) par :

B_{t}p_{λ}(ξ, η) = ∫∫_{𝔤×𝔤} F^{−1}(p_{λ})(x, y)e^{−i<S_{t}(x,y), (ξ,η)>} dx dy,

de sorte que l’on a :

p_{λ} #_{t} q_{λ}(ξ) = B_{t}(p_{λ} ⊗ q_{λ})(ξ, ξ).

Le reste R_{N} s’écrit donc, grâce au lemme A.2 :

\begin{aligned}R_{N}(p_{λ}, q_{λ})(ξ) & = \frac{1}{N!} ∫_{0}^{1}(1 − t)^{N}∫∫_{𝔤×𝔤} F^{−1}(p_{λ} ⊗ q_{λ})(x, y)ψ_{N+1}(x, y, ξ, t)e^{−i<S_{t}(x,y), (ξ,ξ)>}dxdy dt \\ & = \frac{1}{N!} ∫_{0}^{1}(1 − t)^{N}(B_{t} ∘ ψ̃_{N+1}(D_{1}, D_{2}, ξ_{1}, ξ_{2}, t))(p_{λ} ⊗ q_{λ})(ξ, ξ), \end{aligned}

où ψ̃_{N+1}(D_{1}, D_{2}, ξ, η, t) est l’opérateur pseudo-différentiel (au sens classique) sur 𝔤^{∗} × 𝔤^{∗} de symbole à gauche :

ψ̃_{N+1}(x, y, ξ, η, t) = ψ_{N+1}(x, y, \frac{ξ + η}{2} , t).

Lemme A.3 (cf. [M1 prop. 3.6]). Pour tout p_{λ} ∈ AS^{−∞,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) on a les estimations :

P_{ρ,d}^{0,0}(B_{t}p_{λ}) ≤ C.P_{ρ,d}^{−2n−1,0}(p_{λ}).

Démonstration. On a la suite d’inégalités :

|B_{t}p_{λ}(ξ)| ≤ ∫_{Q} |F^{−1}p_{λ}(x)| dx

≤ Vol Q. sup_{x} |F^{−1}p_{λ}(x)|

≤ Vol Q. ∫_{𝔤^{∗}×𝔤^{∗}} |p_{λ}(ζ)| dζ

≤ Vol Q. sup_{η} Λ_{d}(η, λ)^{2n+1}|p_{λ}(η)| ∫_{𝔤^{∗}×𝔤^{∗}} Λ_{d}(ζ, λ)^{−2n−1} dζ,

d’où le résultat.

•

A partir de la définition de l’opérateur B_{t} il est facile d’obtenir les deux lemmes suivants :

Lemme A.4 [M1 lemma 3.7]. Pour tout multi-indice α et pour tout t ∈ [0, 1] on a l’égalité suivante entre opérateurs sur AS^{−∞,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) :

D^{α} ∘ B_{t} = B_{t} ∘ S_{t}(D)^{α}

Lemme A.5. Soit ξ_{k}, k = 1, …, 2n une coordonnée sur 𝔤^{∗} × 𝔤^{∗}. Alors :

B_{t} ∘ ξ_{k} = (∑_{i=1}^{2n} R_{ki,t}(D)ξ_{i}) ∘ B_{t},

où R_{ki,t}(x) désigne le coefficient (k, i) de la matrice jacobienne de S_{t} en x.

A partir de l’écriture :

B_{t}p_{λ}(ξ, η) = ∫∫_{𝔤×𝔤} F^{−1}(p_{λ}) ∘ S_{t}^{−1}(x, y)e^{−i<(x,y), (ξ,η)>}K_{t}(x, y)^{−1} dx dy

obtenue à partir de la définition en effectuant le changement de variable x′ = S_{t}(x) on obtient également :

Lemme A.6 [M1 lemma 3.8]. Soit ξ_{k}, k = 1, …, 2n une coordonnée sur 𝔤^{∗} × 𝔤^{∗}. Alors :

ξ_{k} ∘ B_{t} = B_{t} ∘ (∑_{i=1}^{2n}(P_{ki,t} ∘ S_{t})(D)ξ_{i} + (\frac{D_{k}K_{t}^{−1}}{K_{t}^{−1}} ∘ S_{t})(D)),

où P_{ki,t}(x) désigne le coefficient (k, i) de la matrice jacobienne de S_{t}^{−1} en x.

En combinant les lemmes A.4 et A.6 avec le lemme A.1 on arrive à permuter l’opérateur B_{t} avec n’importe quel opérateur différentiel à coefficients polynomiaux :

Lemme A.7 [M1 prop. 3.9]. Soit P un polynôme à 4n variables, et soit P (ξ, D) un opérateur différentiel à coefficients polynomiaux sur 𝔤^{∗} × 𝔤^{∗} qui admet P comme symbole pour un certain choix d’ordre des variables (ξ_{1}, …, ξ_{2n}, D_{1}, …, D_{2n}). Alors si P est de degré j par rapport aux variables ξ et de valuation v par rapport aux variables D, pour tout t ∈ [0, 1] on a :

P (ξ, D) ∘ B_{t} = B_{t} ∘ P_{t}

où P_{t} est un opérateur (en général non-différentiel) qui envoie continûment AS_{ρ}^{m,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) dans AS_{ρ}^{m+j−ρv,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P).

A partir des lemmes A.3, A.5 et A.7 on obtient les estimations fondamentales pour l’opérateur B_{t} :

Lemme A.8. Pour tout entier positif k et pour tout réel m il existe un entier M(k) et une constante C tels que pour tout t ∈ [0, 1] et p ∈ AS_{d}^{Q}(𝔤^{∗} × 𝔤^{∗}) on a :

P_{ρ,d}^{m,k}(B_{t}p_{λ}) ≤ C.P_{ρ,d}^{m,M(k)}(p_{λ}).

Démonstration. On suppose d’abord que m ≤ 0. On considère pour tout multi-indice α le plus petit entier pair μ_{α} plus grand que −m + ρ|α|. En appliquant le lemme A.6 aux opérateurs :

Λ_{d}(ξ)^{μ_{α}}D^{α}, |α| ≤ k

on obtient les estimations :

P_{ρ,d}^{m,k}(B_{t}p_{λ}) ≤ C.P_{ρ,d}^{m−2n−3,M(k)}(p_{λ}).

Si m > 0 on applique ceci à p′_{λ}(ξ) = Λ_{d}(ξ, λ)^{−μ}p_{λ}(ξ) où μ est le plus petit entier pair plus grand que m, et on applique le lemme A.5. On obtient donc les estimations suivantes pour tout réel m :

P_{ρ,d}^{m,k}(B_{t}p_{λ}) ≤ C.P_{ρ,d}^{m−2n−5,M(k)}(p_{λ}).

Enfin la formule de Taylor à l’ordre N appliquée à t → B_{t}p_{λ}(ξ) permet de développer B_{t} en une somme d’opérateurs différentiels plus un reste, ce qui permet pour N assez grand de se débarrasser du décalage en 2n + 5.

•

Proposition A.9. B_{t} se prolonge en un opérateur continu de AS_{ρ,d}^{m,Q×Q}(𝔤^{∗}×𝔤^{∗}, P) dans AS_{ρ,d}^{m,Q×Q}(𝔤^{∗}×𝔤^{∗}, P).

Démonstration. Si AS^{−∞,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) était dense dans AS_{ρ,d}^{m,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) on pourrait conclure immédiatement, mais ce n’est pas le cas. On introduit la topologie de Hörmander [Hr1 § 3], définie de la façon suivante : une suite p_{n,λ} converge vers p_{λ} au sens de Hörmander si elle converge vers p_{λ} au sens C^{∞} (sans supposer d’uniformité par rapport au paramètre λ) en restant bornée dans AS_{ρ,d}^{m,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P). On montre facilement que B_{t} est continu aussi pour cette topologie, et que AS^{−∞,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) est dense dans AS_{ρ,d}^{m,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) en ce sens, ce qui permet de conclure.

•

Le lemme ci-dessous est une conséquence du lemme 1, et le suivant découle essentiellement de la règle de Leibniz :

Lemme A.10. L’opérateur pseudo-différentiel ψ̃_{N+1}(D_{1}, D_{2}, ξ, η, t) envoie continûment AS_{ρ,d}^{m,Q×Q}(𝔤^{∗} ×

𝔤^{∗}, P) dans AS_{ρ,d}^{m−(N+1)(2ρ−1),Q×Q}(𝔤^{∗} × 𝔤^{∗}, P).

Lemme A.11 [M1 prop. 2.10]. La restriction à la diagonale est continue :

AS_{ρ,d}^{m,Q×Q}(𝔤^{∗} × 𝔤^{∗}, P) ⟶ AS_{ρ,d}^{m,Q}(𝔤^{∗}, P).

Fin de la démonstration du théorème I.2.4 : Si (p_{λ}, q_{λ}) ↦ p_{λ} ⊗ q_{λ} réalisait une correspondance bilinéaire continue :

AS_{ρ,d}^{m_{1},Q}(𝔤^{∗}, P) × AS_{ρ,d}^{m_{2},Q}(𝔤^{∗}, P) ⟶ AS_{ρ,d}^{m_{1}+m_{2},Q×Q}(𝔤^{∗} × 𝔤^{∗}, P)

le théorème I.2.4 serait démontré. L’assertion est malheureusement fausse, mais on a facilement les estimations suivantes pour p_{λ}, q_{λ} dans AS^{−∞,Q}(𝔤^{∗}, P) :

P_{ρ,d}^{m_{1}+m_{2},k}(p_{λ} ⊗ q_{λ}) ≤ P_{ρ,d}^{m_{1}−ρk,k}(p_{λ}).P_{ρ,d}^{m_{2}−ρk,k}(q_{λ}).

En écrivant le développement asymptotique de R_{N} en opérateurs bidifférentiels :

R_{N} = ∑_{l=N+1}^{N′} C_{l} + R_{N′}

pour N′ assez grand (dépendant de k) et en appliquant la proposition A.9, le lemme A.10 et le lemme A.11, on voit qu’il existe un entier M(k) tel que :

P_{ρ,d}^{m_{1}+m_{2},k}(R_{N}(p_{λ}, q_{λ})) ≤ C.P_{ρ,d}^{m_{1},M(k)}(p_{λ}).P_{ρ,d}^{m_{2},M(k)}(q_{λ}).

Un argument de densité analogue à celui de la démonstration de la proposition A.9 permet alors de conclure.

•

Références

[Dui] J.J. Duistermaat, Fourier integral operators, Courant Institute, 1973 (Rééd. Progress in Math. 130, Birkhäuser 1995).

[D-H] J.J. Duistermaat, L. Hörmander, Fourier integral operators II, Acta Math. 128 (1972),

183-269.

[Go] R. Goodman, Elliptic and subelliptic estimates for operators in an enveloping algebra, Duke Math. J. 47, No 4 (1980), 819-833.

[He] B. Helffer, Théorie spectrale pour des opérateurs globalement elliptiques, Astérisque, Soc. Math. France 1984.

[Hr1] L. Hörmander, The Weyl calculus of pseudodifferential operators, Comm. Pure Appl. Math. 32 (1979), 359-443.

[Hr2] L. Hörmander, The analysis of linear partial differential operators III, Springer 1985.

[Hw] R. Howe, Wave front sets of representations of Lie groups, in Automorphic forms, representation theory and Arithmetic, Tata Inst. fund. res. st. math. 10, Bombay 1981.

[Jø] P.E.T. Jørgensen, Distribution representations of Lie groups, J. Math. Anal. Appl. 65

(1978), 1-19.

[M1] D. Manchon, Weyl symbolic calculus on any Lie group, Acta Appl. Math. 30 (1993), 159-186.

[M2] D. Manchon, opérateurs pseudodifférentiels et représentations unitaires des groupes de Lie, Bull. Soc. Math. France 123 (1995), 117-138.

[M3] D. Manchon, Formule de Weyl pour les groupes de Lie nilpotents, J. f.d. Reine u. Angew. Math. 418 (1991), 77-129

[M4] D. Manchon, Distributions à support compact et représentations unitaires, prépubl. math. RT/9809005, à paraître au J. Lie Theory.

[Me1] A. Melin, A remark on invariant pseudo-differential operators, Math. Scand. 30 (1972), 290-296.

[Me2] A. Melin, Parametrix constructions for right invariant differential operators on nilpotent groups, Ann. Glob. Anal. Geom. 1, N.1 (1983), 79-130.

[Ne] E. Nelson, Analytic vectors, Ann. Math. 70 No 3 (1959), 572-615.

[S] R.T. Seeley, Complex powers of an elliptic operator, in Singular integrals, proc. symp.

pure math. 10 (1967), 288-307.

[Shu] M.A. Shubin, Pseudodifferential operators and spectral theory, Springer 1987.

[St] R.S. Strichartz, A functional calculus for elliptic pseudo-differential operators, Amer. J. Math. 94 (1972), 711-722.

[Stk] H. Stetkær, Invariant pseudo-differential operators, Math. Scand. 28 (1971), 105-123.

[T] M.E. Taylor, Pseudodifferential operators, Princeton 1981.