Ali Baklouti*, Sami Dhieb**, Dominique Manchon***

Orbites coadjointes et variétés caractéristiques

A la mémoire de N.V. Pedersen

version du 8 octobre 2003

Abstract : The purpose of the present work is to describe a dequantization procedure for topological modules over a deformed algebra. We define the characteristic variety of a topological module as the common zeroes of the annihilator of the representation obtained by setting the deformation parameter to zero. On the other hand, the Poisson characteristic variety is defined as the common zeroes of the ideal obtained by considering the annihilator of the deformed representation, and only then setting the deformation parameter to zero.

Using Gabber’s theorem, we show the involutivity of the characteristic variety. The Poisson characteristic variety is indeed a Poisson subvariety of the underlying Poisson manifold. We compute explicitly the characteristic variety in several examples in the Poisson-linear case, including the dual of any exponential solvable Lie algebra. In the nilpotent case, we show that any coadjoint orbit appears as the Poisson characteristic variety of a well chosen topological module.

Résumé : Nous présentons dans ce travail un procédé de déquantification pour des modules topologiques sur une algèbre déformée. Nous définissons la variété caractéristique d’un module topologique comme l’ensemble des zéros communs de l’annulateur de la représentation obtenue en annulant le paramètre de déformation. Nous définissons par ailleurs la variété de Poisson caractéristique comme l’ensemble des zéros communs de l’idéal obtenu par quotient en annulant le paramètre de déformation dans l’annulateur de la représentation déformée.

Nous montrons à l’aide du théorème de Gabber l’involutivité de la variété caractéristique. La variété de Poisson caractéristique est une sous-variété de Poisson de la variété de Poisson sousjacente. Nous explicitons la variété caractéristique dans plusieurs exemples, incluant le dual des algèbres de Lie résolubles exponentielles. Dans le cas nilpotent nous montrons que toute orbite coadjointe est la variété de Poisson caractéristique d’un module topologique bien choisi.

* Faculté des Sciences de Sfax, Département de Mathématiques, 3038 Sfax, Tunisie. Ali.Baklouti@fss.rnu.tn ** Faculté des Sciences de Sfax, Département de Mathématiques, 3038 Sfax, Tunisie. Sami.Dhieb@fss.rnu.tn *** CNRS - UMR 6620, Clermont-Ferrand, France. manchon@math.univ-bpclermont.fr

Recherche supportée par l’action d’échange CNRS-DGRSRT 01/R 15 04.

Table des matières

Introduction 2

I. Objets géométriques liés aux algèbres déformées 5

I.1. Modules topologiquement libres 5 I.2. Idéaux divisibles 6 I.3. Annulateurs 6 I.4. Involutivité 7 I.5. Variétés caractéristiques 9 I.6. Involutions et ∗-représentations 10

II. Application au cas des variétés de Poisson linéaires 12

II.1. L’algèbre (A, ∗) 13 II.2. Modules topologiquement libres 13 II.3. Unitarité 13

III. Exemples 14

III.1. Le groupe de Heisenberg 14 III.2. L’algèbre de Lie filiforme de pas n 16 III.3 L’algèbre de Lie du groupe affine de la droite 17 III.4 Un exemple résoluble exponentiel de dimension 3 18 III.5 L’algèbre de Lie du groupe diamant 19 III.6 L’algèbre de Lie du groupe des déplacements du plan 22 III.7 Le cas semi-simple : modules de Verma 24 III.8 Modules de Verma et réalité 26

IV. Une construction générale à l’aide de polarisations réelles 28

IV.1 Construction d’une représentation π_{ν} de A 28 IV.2 Calcul de la variété caractéristique 29 IV.3 Le cas nilpotent 30

Références 31

Introduction

Nous proposons dans cet article un procédé pour déquantifier certains modules sur une algèbre déformée, c’est-à-dire associer à un tel module une sous-variété involutive et une sous-variété de Poisson de la variété de Poisson sous-jacente. Le cadre C^{∞} est mal adapté, mais le cadre analytique ou algébrique convient : nous travaillons d’abord sur le corps des complexes, puis, considérant une involution naturelle sur l’algèbre déformée nous mettons en évidence une classe de modules pour lesquels les objets ainsi mis en évidence vivent sur le corps des réels. Ce sont les modules fortement pseudo-unitaires, c’est-à-dire les modules munis d’une forme bilinéaire hermitienne non dégénérée compatible avec l’involution, à valeurs dans ℂ[[ν]] (où ν est le paramètre de déformation), et telle que la forme bilinéaire quotient à valeurs dans ℂ obtenue en ν = 0 est encore non-dégénérée.

Soit (V, {, }) une variété de Poisson analytique réelle (resp. algébrique) c’est-à-dire une variété analytique réelle (resp. algébrique) munie d’un 2-tenseur P à coefficients analytiques (resp. réguliers) tel que le crochet de Schouten [P, P] s’annule. Le crochet de Poisson munit le faisceau structural O des germes de fonctions analytiques (resp. régulières) d’une structure de faisceau d’algèbres de Poisson.

Nous nous limiterons au cas plat V = ℝ^{d}. En complexifiant nous obtenons donc une structure de variété de Poisson analytique complexe (resp. algébrique) sur V^{ℂ} = ℂ^{d}. Nous noterons A l’algèbre de Poisson O_{V} des fonctions analytiques (resp. polynomiales) sur ℂ^{d} (c’est l’espace des sections globales du faisceau structural). M. Kontsevich [K] a construit un étoile-produit # sur V :

f#g = ∑_{k≥0} ν^{k}C_{k}(f, g),

où les coefficients C_{k} sont des opérateurs bidifférentiels décrits à l’aide de formules complètement explicites ne faisant intervenir que les dérivées partielles des constantes de structure du 2-tenseur de Poisson (voir aussi [AMM] et [MT]). En particulier si le 2-tenseur de Poisson est à coefficients analytiques (resp. polynomiaux) alors l’étoile-produit est aussi à coefficients analytiques (resp. polynomiaux). Autrement dit l’étoile-produit # munit A = A[[ν]] d’une structure d’algèbre associative topologiquement libre sur ℂ[[ν]]. Cette algèbre est naturellement filtrée par A_{n} = ν^{n}A, et son gradué associé Gr A est naturellement isomorphe à l’algèbre de polynômes A[ν] munie du produit commutatif de A étendu par ℂ[ν]-linéarité. Enfin cet étoile-produit est à coefficients réels : si f et g sont des fonctions sur V à valeurs réelles, alors f#g est aussi à valeurs réelles.

L’étoile-produit # de M. Kontsevich est équivalent à un autre étoile-produit ∗ [K § 8], [MT], [CFT] ayant les mêmes propriétés, et vérifiant de plus la propriété suivante : pour tout f, g dans le centre de (A, ∗) on a :

f ∗ g = fg.

Les deux algèbres (A, #) et (A, ∗) sont bien entendu isomorphes. Nous appellerons le produit ∗ étoile-produit de Duflo-Kontsevich [ABM].

Nous nous placerons exclusivement dans le cadre algébrique. Nous définissons dans le premier paragraphe la variété caractéristique V (M) ⊂ V^{ℂ} d’un A-module topologiquement libre M ainsi que sa variété de Poisson caractéristique VA(M) en adaptant les définitions de [J] de la façon suivante : considérant l’annulateur Ann M du A-module M nous définissons V (M) comme l’ensemble des zéros communs de l’annulateur du A-module M = M/νM, et VA(M) comme l’ensemble des zéros communs de Ann M/ν Ann M. Ces deux objets sont des sous-variétés affines de ℂ^{n} (i.e. définies par l’annulation d’un nombre fini de polynômes).

Nous montrons (à l’aide de [G]) que V (M) est une sous-variété involutive de V^{ℂ}, que VA(M) est une sous-variété de Poisson de V^{ℂ} (ce qui justifie l’appellation), et que l’on a toujours l’inclusion :

V (M) ⊂ VA(M).

Après avoir montré (à l’aide de [CF1]) que l’involution f ⟼ f^{∗} définie par :

f^{∗}(ξ) = \overline{f(\overline{ξ})}

est un anti-automorphisme de l’algèbre (A, ∗), nous introduisons la notion de A-module fortement pseudo-unitaire, et nous montrons que la variété caractéristique d’un A-module fortement pseudo-unitaire est définie sur le corps des réels, ainsi que sa variété de Poisson caractéristique.

Plus précisément, on prolonge d’abord la conjugaison complexe en un automorphisme de ℂ[[ν]] en décrétant que ν = ih̄ est imaginaire pur, c’est-à-dire \overline{ν} = −ν. Nous dirons que le module M est pseudo-unitaire (ou, de façon équivalente, que la représentation qui lui est associée est une ∗-représentation [Bu-W]), s’il existe une forme sesquilinéaire non-dégénérée < −, − >_{ν} à valeurs dans ℂ[[ν]] sur M qui soit hermitienne, i.e.

< m, n >_{ν}= \overline{< n, m >_{ν}}, m, n ∈ M

et compatible avec l’involution, i.e. vérifiant pour tout a ∈ A :

< am, n >_{ν}=< m, a^{∗}n >_{ν} .

La forme < −, − >_{ν} induit par passage au quotient une forme hermitienne < −, − >_{0} sur M à valeurs dans ℂ. Si cette forme est non-dégénérée nous dirons que le module M est fortement pseudo-unitaire (ou, de façon équivalente, que la représentation associée est une ∗-représentation fortement non-dégénérée). Contrairement à [Bu-W], nous ne faisons pas forcément d’hypothèse de positivité sur la forme sesquilinéaire. Un module fortement pseudo-unitaire muni d’une forme définie positive sera dit fortement unitaire.

Dans le deuxième paragraphe nous adaptons ce cadre aux variétés de Poisson linéaires. Pour toute algèbre de Lie réelle 𝔤 nous introduisons la famille à un paramètre réel d’algèbres de Lie 𝔤_{h̄}, de même espace sous-jacent 𝔤 avec le crochet de Lie :

[X, Y]_{h̄} = h̄[X, Y],

et nous montrons (Théorème II.3.1) l’équivalence entre les notions de A-module fortement unitaire et de famille à un paramètre (ρ_{h̄}) de représentations unitaires de 𝔤_{h̄}, où A s’identifie, via l’isomorphisme de Duflo, à l’algèbre enveloppante formelle complexifiée :

U_{ν}(𝔤^{ℂ}) = T (𝔤^{ℂ})[[ν]]/ < x ⊗ y − y ⊗ x − ν[x, y] > .

Le troisième paragraphe est consacré à quelques exemples dans le cadre Poisson-linéaire, plus précisément dans les cadres nilpotent et résoluble, mis à part les modules de Verma traités en conclusion.

Dans la dernière partie, à l’aide de la méthode des orbites de Kirillov [Ki] et des résultats de N.V. Pedersen [Pe1] nous déterminons, dans le cas des algèbres de Lie résolubles exponentielles la variété caractéristique d’un module fortement unitaire obtenu par induction unitaire d’une polarisation réelle quelconque. Nous montrons enfin que lorsque V est le dual d’une algèbre de Lie nilpotente toute feuille symplectique (c’est-à-dire toute orbite coadjointe) peut se voir comme la variété de Poisson caractéristique d’un A-module fortement unitaire M bien choisi.

Cette étude montre que le cadre tracé au § I pour une vaste classe de variétés de Poisson s’accorde bien avec la méthode des orbites de Kirillov dans le cas des variétés de Poisson linéaires. Remarque : contrairement à l’anneau des polynômes, l’anneau des fonctions holomorphes sur ℂ^{n} n’est pas noethérien. En revanche l’anneau des germes de fonctions holomorphes en un point donné est noethérien. Dans l’optique d’une adaptation de nos méthodes au cadre analytique il serait donc intéressant de “faisceautiser” la construction présentée ici, c’est-à-dire de déquantifier des faisceaux de modules topologiquement libres sur le faisceau (O[[ν]], ∗) d’algèbres déformées (qui a un sens puisque l’étoile-produit est bidifférentiel). Nous remercions Georges Pinczon d’avoir attiré notre attention sur ce point.

I. Objets géométriques associés aux algèbres déformées

Nous gardons les notations de l’introduction en nous limitant exclusivement au cadre algébrique. Nous introduisons la notion d’idéal divisible de l’algèbre déformée A, puis nous introduisons, en nous inspirant de [J], la notion de variété caractéristique pour un A-module topologiquement libre. C’est un fermé de Zariski de V. Nos variétés caractéristiques ne sont pas forcément coniques (contrairement à ce qui se passe dans [J] ou [GM]), ceci grâce à l’introduction du paramètre de déformation dans la construction. La notion de pseudounitarité forte permet de faire vivre ces variétés caractéristiques sur le corps des réels.

I.1. Modules topologiques sur l’anneau des séries formelles

Nous reprenons les définitions de [CFT § A.1] et de [EK § 2.1]. Soit k[[ν]] l’anneau des séries formelles sur un corps quelconque k. On munit cet anneau de la topologie ν-adique, définie par la distance ultramétrique :

d(a, b) = 2^{− val(a−b)},

avec val a = sup{j, a ∈ ν^{j}k[[ν]]}. Cette distance fait de k[[ν]] un anneau topologique complet. Sur tout k[[ν]]-module M on met une topologie invariante par translation en décidant que les ν^{j}M, j ∈ ℕ forment une base de voisinages de zéro. Cette topologie est séparée si et seulement si l’intersection des ν^{j}M est réduite à {0}. Dans ce cas on peut définir la valuation :

val m = sup{j, m ∈ ν^{j}M}

et définir la topologie par la distance ultramétrique associée d(m, m′) = 2^{− val(m−m′)}.

On dira qu’un k[[ν]]-module M est sans torsion si l’action de ν est une injection de M dans M. On rappelle également [EK§ 2.1] qu’un k[[ν]]-module topologiquement libre est un module M isomorphe à M[[ν]] pour un certain espace vectoriel M.

Proposition I.1.1 ([CFT] lemma A1). Un k[[ν]]-module M est topologiquement libre si et seulement s’il est séparé, complet et sans torsion.

Remarquons que pour un module topologiquement libre M = M[[ν]], l’espace vectoriel M peut se voir également comme le quotient M/νM.

Soit M un k[[ν]]-module, et soit N un sous-k[[ν]]-module de M. Considérons les k-espaces vectoriels M = M/νM et N = N /νN. L’inclusion i : N ⟶ M induit une application k-linéaire :

i_{0} : N ⟶ M.

On dira que le sous-k[[ν]]-module N est divisible si l’application i_{0} est injective. Autrement dit N est divisible si et seulement si νN = N ∩ νM. Un exemple simple de sous-k[[ν]]- module non divisible est νM[[ν]] ⊂ M[[ν]]. Pour tout k[[ν]]-module M, on écrira aussi “m = O(ν^{j}) dans M” pour m ∈ ν^{j}M. Un sous-k[[ν]]-module N de M est donc divisible si et seulement si pour tout m ∈ N, m = O(ν) dans M implique m = O(ν) dans N.

L’algèbre associative A définie dans l’introduction est par construction un ℂ[[ν]]- module topologiquement libre. Nous appellerons A-module topologique un ℂ[[ν]]-module M muni d’une application ℂ[[ν]]-bilinéaire :

\begin{matrix}Φ : A × M & ⟶ M \\ (φ, m) & ⟼ π_{ν}(φ)m \end{matrix}

faisant de M un A-module.

Proposition I.1.2. Soit M un A-module topologique. Alors l’application ℂ[[ν]]-bilinéaire Φ : A × M → M définissant le module est continue pour les topologies ν-adiques de A et de M.

Démonstration. Soient m ∈ M et a ∈ A. la famille W_{j} = Φ(a, m) + ν^{j}M forme une base de voisinages de Φ(a, m) = π_{ν}(a)m. Considérant les voisinages U_{j} = a + ν^{j}A et V_{j} = m + ν^{j}M de a et de m respectivement, il est alors clair que l’image par Φ du produit U_{i} × V_{j} est incluse dans W_{j}, ce qui montre la continuité. En particulier la multiplication de A × A dans A est ℂ[[ν]]-bilinéaire continue pour la topologie ν-adique, et fait donc de A une algèbre topologique.

•

Soient M_{1} et M_{2} deux A-modules topologiques. Un morphisme de A-modules topologiques (ou opérateur d’entrelacement) de M_{1} vers M_{2} est une application ℂ[[ν]]-linéaire continue commutant aux actions des éléments de A. On dit que M_{1} et M_{2} sont équivalents s’il existe un opérateur d’entrelacement bijectif bicontinu de M_{1} sur M_{2}.

I.2. Idéaux divisibles

Comme A = A[[ν]] est topologiquement libre on identifiera A avec A/νA. Soit J un idéal à gauche de A. Il est immédiat de voir que J = J /(J ∩ νA) est un idéal de l’algèbre commutative A. La situation est bien sûr la même avec les idéaux à droite.

Proposition I.2.1. Soit J un idéal bilatère divisible de A. Alors J = J /(J ∩ νA) est un idéal de Poisson de A.

Démonstration. Soient a_{0} ∈ J et b_{0} ∈ A. Soit a = a_{0} + νa_{1} + ⋯ ∈ J représentant a_{0} et soit b = b_{0} + νb_{1} + ⋯ ∈ A représentant b_{0}. Par divisibilité de J on a :

\frac{1}{ν} (a ∗ b − b ∗ a) ∈ J ,

d’où on déduit, en considérant le terme constant, que {a_{0}, b_{0}} appartient à J.

•

Remarquons que, comme J est divisible, on peut aussi identifier J à J /νJ.

I.3. Annulateurs

Soit M un A-module topologique. On définit l’annulateur Ann M du module M comme l’ensemble des φ ∈ A tels que π_{ν}(φ)m = 0 pour tout m ∈ M. On voit immédiatement que alors Ann M est un idéal bilatère de A, et que Ann M est divisible si M est sans torsion.

Proposition I.3.1. Soit M un A-module. Alors M = M/νM est un module sur l’algèbre commutative A = A/νA.

Démonstration. C’est immédiat. On notera π_{0} la représentation de A dans le module M associée.

•

Proposition I.3.2. Soit M un A-module topologique. Alors l’annulateur du A-module M = M/νM est stable par le crochet de Poisson de A.

Démonstration. On note π_{ν} la représentation de A dans le module M. L’annulateur de M peut se voir comme l’ensemble des f ∈ A tels que π_{ν}(f)u = O(ν) pour tout u ∈ M. Pour tout f, g ∈ Ann M on a dans M :

π_{ν}(f ∗ g)u = π_{ν}(f)π_{ν}(g)u = O(ν^{2}),

ce qui nous donne :

\begin{aligned}π_{ν}(\{f, g\})m & = \frac{1}{ν} π_{ν}(f ∗ g − g ∗ f).m + O(ν) \\ & = O(ν), \end{aligned}

d’où le résultat.

•

Remarque : L’anneau A étant noethérien [B], l’annulateur de M est finiment engendré.

I.4. Involutivité

Soit V = ℝ^{d} une variété de Poisson plate algébrique réelle (comme dans l’introduction), et soit W ⊂ V^{ℂ} une sous-variété affine. Soit I(W) l’idéal de A constitué par les fonctions qui s’annulent sur W. On dira que W est involutive ou co-isotrope si l’idéal I(W) est stable par le crochet de Poisson. C’est équivalent à l’annulation du 2-tenseur de Poisson sur la deuxième puissance extérieure du fibré conormal de W [BGHHW], [CF2].

Proposition I.4.1. Soit W une sous-variété affine de V^{ℂ}. Soit W^{r} la partie non-singulière de W. Si W est involutive, alors pour toute feuille symplectique S de V^{ℂ} coupant W^{r} transversalement l’intersection W^{r} ∩ S est une sous-variété co-isotrope de S, c’est-à-dire que pour tout x ∈ W^{r} ∩ S on a :

(T_{x}(W^{r} ∩ S))^{ω} ⊂ T_{x}(W^{r} ∩ S),  (I.4.1)

où l’exposant ω désigne l’orthogonal dans T_{x}S pour la forme symplectique.

Démonstration. Nous adaptons la démonstration de la proposition 19 de [GM § II I.4]. Soit x ∈ W^{r} ∩ S. Soit P_{x} le 2-tenseur de Poisson en x, et soit P̃_{x} : T_{x}^{∗}V^{ℂ} → T_{x}V^{ℂ} l’application linéaire antisymétrique associée, définie par :

< η, P̃_{x}(ξ) >= P_{x}(ξ, η).  (I.4.2)

L’image de P̃_{x} est précisément T_{x}S.

Lemme I.4.2. On a l’égalité :

T_{x}(W^{r} ∩ S)^{ω} = P̃_{x}(T_{x}(W^{r} ∩ S)^{⊥}),  (I.4.3)

où l’exposant ⊥ désigne l’orthogonal d’un sous-espace dans le dual.

Démonstration. Soit ξ ∈ T_{x}(W^{r} ∩ S)^{⊥}. Alors pour tout Y ∈ T_{x}(W^{r} ∩ S) on a :

ω(P̃_{x}(ξ), Y) =< ξ, Y >= 0,  (I.4.4)

ce qui montre l’inclusion :

P̃_{x}(T_{x}(W^{r} ∩ S)^{⊥}) ⊂ T_{x}(W^{r} ∩ S)^{ω}.

Pour montrer l’inclusion inverse on considère un X dans T_{x}(W^{r} ∩S)^{ω}. C’est l’image par P̃_{x} d’un élément ξ de T_{x}^{∗}V, et il est immédiat d’après (I.4.4) que ξ appartient à T_{x}(W^{r} ∩ S)^{⊥}.

•

Fin de la démonstration de la proposition I.4.1 : Soit X ∈ T_{x}S. Par définition d’une feuille symplectique il existe φ ∈ A telle que X coïncide avec le champ hamiltonien H_{φ}(x). Alors X appartient à (T_{x}(W^{r} ∩ S))^{ω} si et seulement si pour tout Y ∈ T_{x}(W^{r} ∩ S) on a :

ω(X, Y) = Y.φ(x) = dφ(x)(Y) = 0.

Maintenant, l’espace B_{x} des dφ(x) où φ ∈ I(W) est l’orthogonal de T_{x}W^{r}. Grâce à la condition de transversalité nous pouvons donc écrire :

T_{x}(W^{r} ∩ S)^{⊥} = (T_{x}W^{r} ∩ T_{x}S)^{⊥} = B_{x} + (T_{x}S)^{⊥},  (I.4.5)

Soient donc X, Y ∈ T_{x}(W^{r} ∩ S)^{ω}. D’après (I.4.5) et le lemme I.4.2 il existe φ, ψ ∈ I(W) telles que X = P̃_{x}(dφ(x)) = H_{φ}(x) et Y = H_{ψ}(x). On a alors grâce à l’involutivité :

ω(X, Y) = {φ, ψ}(x) = 0,

Ce qui termine la démonstration.

•

Remarque : on a l’égalité :

T_{x}(W^{r} ∩ S)^{ω} = P̃_{x}((T_{x}W^{r})^{⊥}).  (I.4.7)

On a une réciproque partielle à la proposition I.4.1 :

Proposition I.4.3. Soit W une sous-variété affine de V^{ℂ}. Soit W^{r} la partie non-singulière de W. Supposons qu’il existe un ensemble Zariski-dense U de W^{r} tel que :

1) pour tout x ∈ U, l’intersection de W^{r} avec la feuille symplectique S_{x} passant par x est transverse.

2) W^{r} ∩ S_{x} est co-isotrope dans S_{x}.

Alors W est involutive.

Démonstration. On voit facilement que sous les hypothèses de la proposition, si f et g appartiennent à I(W) alors {f, g} s’annule sur l’ensemble Zariski-dense U de W^{r}, et donc sur W tout entier. Rappelons [V] que même dans le cas algébrique que nous considérons, les feuilles symplectiques ne sont pas en général des sous-variétés algébriques de V^{ℂ}. Un exemple de cette situation est donné au paragraphe III.4.

•

I.5. Variétés caractéristiques

Soit M un A-module topologique. La variété caractéristique V (M) de M est définie comme l’ensemble des zéros communs de l’annulateur du A-module M = M/νM. Si M est sans torsion, on appellera variété de Poisson caractéristique de M et, comme dans [J], on notera VA(M) l’ensemble des zéros communs de l’idéal Ann M/(Ann M ∩ νA) de A. Cette terminologie est justifiée au corollaire I.5.3 ci-dessous.

Comme A est un anneau commutatif noethérien, le gradué associé A[ν] de A est aussi noethérien [B § III.2 corollaire 1]. On peut donc appliquer le théorème d’intégrabilité des variétés caractéristiques de Gabber [G, Theorem I] :

Théorème I.5.1 (Intégrabilité des caractéristiques : O. Gabber). Supposons que M soit un A-module finiment engendré, et soit M = M/νM. Alors le radical J(M) de Ann M est stable par le crochet de Poisson.

Remarque : J(M) est l’idéal des éléments de A qui s’ annulent sur la variété caractéristique V (M). Le théorème dit donc que V (M) est involutive.

Théorème I.5.2. L’ensemble des zéros communs d’un idéal de Poisson est une sous-variété de Poisson de V^{ℂ}.

Démonstration. Soit J un idéal de Poisson de A, et soit f ∈ J. Soit x annulant tous les éléments de J, et soit y = ϕ_{t}(x), où (ϕ_{t})_{|t|<ε} est le flot d’un champ de vecteurs hamiltonien H_{g}, g ∈ A. Par analyticité du flot, on a pour |t| assez petit :

(f ∘ ϕ_{t})(x) = ∑_{k=0}^{∞}(ad^{k} g.f)(x)t^{k},  (I.5.1)

où le membre de droite est convergent. Or le terme :

(ad^{k} g.f)(x) = {g, {g, … {g, f} …}}(x)

s’annule, puisque J est un idéal de Poisson. Donc (f ∘ ϕ_{t})(x) s’annule pour t assez petit. On en déduit que la feuille symplectique passant par x est entièrement contenue dans l’ensemble des zéros communs de J.

•

Corollaire I.5.3. La variété de Poisson caractéristique VA(M) d’un A- module topologique sans torsion M est une sous-variété de Poisson de V^{ℂ}.

Démonstration. Comme M est sans torsion, l’idéal Ann M de A est divisible, et donc d’après la proposition I.2.1 Ann M/(Ann M ∩ νA) est un idéal de Poisson de A.

•

Proposition I.5.4. Pour tout A-module topologique sans torsion M on a l’inclusion :

V (M) ⊂ VA(M).  (I.5.2)

Démonstration. Ce résultat découle naturellement des caractérisations suivantes :

Ann M = Ann(M/νM) = {φ_{0} ∈ A/π_{ν}(φ_{0}) = O(ν)}
Ann M/(Ann M ∩ νA) = {φ_{0} ∈ A/∃φ = φ_{0} + νφ_{1} + ... ∈ A/π_{ν}(φ) = 0}. (I.5.3)

Il est clair que le deuxième idéal est contenu dans le premier, d’où l’inclusion inverse des variétés caractéristiques.

•

Remarque : les annulateurs de deux modules topologiquement libres équivalents sont égaux. La variété de Poisson caractéristique VA(M) ne dépend donc que de la classe d’équivalence de M. Il n’en va pas de même de la variété caractéristique V (M).

I.6. Involution et ∗-représentations

A. Cattaneo et G. Felder ont remarqué [CF1 § 2] que l’algèbre (A, #) est naturellement munie d’une involution. Nous adaptons ici leurs arguments, et nous allons montrer que cette involution est également une involution pour l’étoile-produit ∗ de Duflo-Kontsevich. On étend la conjugaison complexe en un automorphisme involutif de ℂ[[ν]] en posant simplement \overline{ν} = −ν. On considère donc ν comme “imaginaire pur”, et nous poserons également ν = ih̄, où h̄ = \overline{h̄} peut être considéré comme “réel”.

Proposition I.6.1. L’involution semi-linéaire f ↦ f^{∗} de A définie par :

f^{∗}(ξ) = \overline{f(\overline{ξ})}  (I.6.1)

est un anti-automorphisme de l’algèbre (A, #).

Démonstration. Dans l’expression de l’étoile-produit on peut remplacer le paramètre ν par n’importe quelle série formelle sans terme constant. En particulier on peut remplacer ν par h̄ = −iν (qui vérifie alors \overline{h̄} = h̄). L’étoile-produit # étant défini par des opérateurs bi-différentiels à coefficients réels, on vérifie facilement que l’on a :

(f#_{h̄}g)^{∗} = f^{∗}#_{h̄}g^{∗}.  (I.6.2)

d’où l’on déduit :

(f#_{ν}g)^{∗} = f^{∗}#_{−ν}g^{∗}.  (I.6.3)

Enfin, on sait (voir la remarque à la fin du § 2 de [CF1]) que l’ étoile-produit de Kontsevich vérifie la propriété de parité alternée de ses coefficients, c’est-à-dire :

f#_{−ν}g = g#_{ν}f.  (I.6.4)

D’après (I.6.3) on a donc :

(f#_{ν}g)^{∗} = g^{∗}#_{ν}f^{∗},  (I.6.5)

d’où le résultat.

•

Proposition I.6.2. L’involution f ↦ f^{∗} est également un anti-automorphisme de l’algèbre (A, ∗) munie de l’étoile-produit de Duflo-Kontsevich. Elle se restreint à A et sa restriction est un (anti-) automorphisme de l’algèbre commutative A.

Démonstration. Soit D = I + νD_{1} + ⋯ l’opérateur différentiel formel qui réalise l’équivalence entre les deux étoile-produits :

f ∗ g = D(D^{−1}f#D^{−1}g).  (I.6.6)

Cet opérateur d’équivalence D est à coefficients réels, et commute donc avec l’involution f ↦ f^{∗}. L’involution semi-linéaire f ↦ f^{0} définie par :

f^{0} = D[(D^{−1}f)^{∗}]  (I.6.7)

coïncide donc avec f ↦ f^{∗}. Dans le cadre des variétés de Poisson linéaires (voir § II.1 ci-dessous) on a même l’égalité entre les deux étoile-produits.

L’involution se restreint de manière évidente à A. De plus l’involution respecte νA, et l’involution ainsi définie sur A/νA correspond à cette restriction via l’isomorphisme canonique de A sur A/νA.

•

Soit π_{ν} une représentation de (A, ∗) dans un module topologique M. A la suite de [Bu-W] on dit que π_{ν} est une ∗-représentation de A dans M si on a :

< π_{ν}(f)u, v >_{ν}=< u, π_{ν}(f)^{∗}v >_{ν},  u, v ∈ M, f ∈ A  (I.6.8)

pour une certaine forme sesquilinéaire < −, − >_{ν} hermitienne non-dégénérée (sans hypothèse de positivité) sur M à valeurs dans ℂ[[ν]]. On dira que l’∗-représentation est unitaire si de plus cette forme sesquilinéaire est définie positive, c’est-à-dire < x, x >_{ν}> 0 pour tout x ∈ M non nul, l’ordre sur ℝ[[ν]] étant l’ordre lexicographique.

Cette forme sesquilinéaire définit par passage au quotient une forme sesquilinéaire sur M = M/νM à valeurs dans ℂ. Nous supposerons que la forme < −, − >_{ν} est fortement non-dégénérée, c’est-à-dire que nous supposerons aussi non-dégénérée la forme quotient sur M. Dans ce cas on dira que l’∗-représentation est fortement non dégénérée. Une représentation fortement non dégénérée et unitaire sera dite fortement unitaire.

Un A-module unitaire (resp. pseudo-unitaire) sera par définition un module topologique muni d’une représentation unitaire (resp. d’une ∗-représentation) de A. Un Amodule fortement unitaire (resp. fortement pseudo-unitaire) sera par définition un module topologique muni d’une représentation fortement unitaire (resp. d’une ∗-représentation fortement non dégénérée) de A.

Proposition I.6.3. Soit π_{ν} une ∗-représentation fortement non-dégénérée de (A, ∗) dans un module topologique M. Alors l’annulateur de M = M/νM est engendré par un nombre fini d’éléments autoadjoints de A. Il en est de même de Ann M/(Ann M ∩ νA).

Démonstration. Tout élément f de A s’écrit de manière unique :

f = f^{+} + if^{−},  (I.6.9)

où f^{+} et f^{−} sont auto-adjoints. On a :

f^{+} = \frac{1}{2}(f + f^{∗}),  f^{−} = \frac{1}{2i}(f − f^{∗}).  (I.6.10)

Grâce à la non-dégénérescence du produit scalaire sur M on voit que si f appartient à Ann M, f^{∗} appartient aussi à Ann M. Soit {f_{1}, …, f_{k}} un système de générateurs de Ann M. Il est alors clair que Ann M est engendré par {f_{1}^{+}, …, f_{k}^{+}, f_{1}^{−}, …, f_{k}^{−}}. Le même raisonnement s’applique à Ann M/(Ann M ∩ νA), comme on peut le voir en utilisant la deuxième égalité (I.5.3) et la pseudo-unitarité forte de M.

•

Corollaire I.6.4. Sous les hypothèses ci-dessus, la variété caractéristique V (M) d’un module fortement pseudo-unitaire est réelle, de même que sa variété de Poisson caractéristique VA(M) lorsque M est sans torsion.

Démonstration. La variété caractéristique V (M) est définie par les 2k équations :

f_{j}^{+}(ξ) = f_{j}^{−}(ξ) = 0, j = 1, ⋯, k.  (I.6.11)

Or les polynômes f_{j}^{±} sont bien à coefficients réels par définition de l’involution. Le raisonnement pour VA(M) est identique.

•

Remarque 1 : La proposition I.6.3 et le corollaire I.6.4 n’utilisent pas d’hypothèse de positivité sur le produit scalaire. Il faut noter que les notions de non-dégénérescence introduites ici sont différentes de celles introduites dans [Bu-W], qui par ailleurs se placent d’emblée dans le cas unitaire.

Remarque 2 : On notera indifféremment V (M) = V (π_{ν}) pour la variété caractéristique, et VA(M) = VA(π_{ν}) pour la variété de Poisson caractéristique.

I.7. Modules topologiquement libres convergents

Nous aurons besoin par la suite de spécialiser le paramètre de déformation ν en une valeur complexe non nulle, en faisant converger les séries formelles. Soit M = M[[ν]] un module topologiquement libre sur l’algèbre déformée A = A[[ν]], et soit π_{ν} la représentation associée. On suppose de plus que M est un espace de Fréchet, c’est-à-dire un espace vectoriel topologique localement convexe séparé complet à base dénombrable de voisinages de zéro. La topologie de M est donc définie par une suite (N_{j})_{j=1,2,...} de semi-normes, et la distance invariante par translation définie par :

d(x, y) = ∑_{j=1}^{∞} 2^{−j}(1 − \frac{1}{1 + N_{j}(x − y)})

définit la topologie de M [Tr § I.8]. On considérera la fonction ∥.∥ définie sur M à valeurs dans ℝ^{+} par :

∥x∥ = d(x, 0).

Ce n’est pas une norme, mais on a ∥x∥ = 0 si et seulement si x = 0, ainsi que l’inégalité triangulaire :

∥x + y∥ ≤ ∥x∥ + ∥y∥.

De plus, pour tout x ∈ M la fonction :

\begin{matrix}Ψ_{x} : ℂ & ⟶ ℝ^{+} \\ λ & ⟼ ∥λx∥ \end{matrix}

ne dépend que de |λ|, et est strictement croissante en |λ| pour tout x ∈ M non nul.

Etant donnée une série entière ∑_{j≥0} ν^{j}m_{j} à coefficients dans M, son rayon de conver-

gence R est défini comme dans les espaces vectoriels normés par :

R = sup{r ∈ [0, +∞[/ ∑_{j} r^{j}∥m_{j}∥ converge }.

On vérifie sans peine, grâce à la complétude de M et à la propriété de croissance des fonctions Ψ_{x}, qu’une série entière de rayon de convergence R > 0 converge normalement sur tout disque fermé de rayon R_{0} < R.

On dira qu’un module topologiquement libre M = M[[ν]] est convergent s’il existe r > 0 et un sous-espace C de A tel que :

1) pour tout a ∈ C et tout m ∈ M la série entière π_{ν}(a)m converge pour |ν| < r.

2) la sous-ℂ[ν]-algèbre A_{C} de A engendrée par C contient A. Le rayon de convergence R_{M} du module est alors défini comme la borne supérieure des rayons r ci-dessus. Pour tout ν à l’intérieur du disque de convergence de M on peut donner un sens à l’expression π_{ν}(a)m dans l’espace de Fréchet M pour tout m ∈ M[ν] et a ∈ A_{C} en posant :

π_{ν}(a_{1} ∗ ⋯ ∗ a_{k})m = π_{ν}(a_{1}) ⋯ π_{ν}(a_{k})m  (I.7.1)

pour a_{1}, …, a_{k} ∈ C. On munit ainsi M d’une famille de structures de A_{C}-module paramétrée par ν ∈ D(0, R_{M}). Remarque : soit m ∈ M[ν] et soit ν ∈ D(0, R_{M}). Bien que nous ayons donné un sens à π_{ν}(a)m pour tout a ∈ A_{C} via la définition ci-dessus, la série entière π_{ν}(a)m ne converge pas a priori dans M pour |ν| < R_{M} si a n’est pas dans C.

II. Application au cas des variétés de Poisson linéaires

Nous allons appliquer les résultats précédents aux représentations des algèbres de Lie. L’ingrédient essentiel ici est la spécialisation du paramètre de déformation ν en un imaginaire pur quelconque, ce qui permet (Théorème II.3.1) d’associer à une représentation fortement unitaire π_{ν} de l’algèbre déformée une famille à un paramètre (π_{ν})_{ν∈ℂ} de représentations unitaires d’algèbres de Lie, moyennant une hypothèse de convergence sur π_{ν}.

Soit V = ℝ^{d} une variété de Poisson linéaire. Alors le dual V^{∗} des formes linéaires sur V forme une sous-algèbre de Lie 𝔤 de l’algèbre A des polynômes sur V munie du crochet de Poisson. On voit donc la variété de Poisson V comme le dual 𝔤^{∗} de l’algèbre de Lie 𝔤. On a pour f, g ∈ A et ξ ∈ 𝔤 [W § 3] :

{f, g}(ξ) =< ξ, [df(ξ), dg(ξ)] > .

II.1. L’algèbre (A, ∗)

Soit 𝔤 une algèbre de Lie sur le corps ℝ, et soit A = S(𝔤^{ℂ}). Il résulte des travaux de B. Shoikhet sur l’annulation des poids associés aux “roues” [FS], [S], que les deux étoile-produits # et ∗ coïncident. L’algèbre (A, ∗) est isomorphe à ”l’algèbre enveloppante formelle complexifiée” :

U_{ν}(𝔤^{ℂ}) = T (𝔤^{ℂ})[[ν]]/ < x ⊗ y − y ⊗ x − ν[x, y] >,  (II.1.1)

et on a précisément :

f ∗ g = τ^{−1}(τf.τg).  (II.1.2)

Ici τ : A → U_{ν}(𝔤^{ℂ}) est l’isomorphisme de Duflo [D1] :

τ = σ ∘ J(D)^{1/2},  (II.1.3)

où σ est la symétrisation et J(D)^{1/2} est l’opérateur différentiel d’ordre infini à coefficients constants correspondant à la série formelle :

J(x)^{1/2} = ( det \frac{sh ad \frac{ν}{2} x}{ad \frac{ν}{2} x})^{1/2}.  (II.1.4)

On notera (S^{n}(𝔤^{ℂ}))_{n≥0} la filtration croissante usuelle de l’algèbre symétrique. On peut spécialiser la valeur du paramètre de déformation ν : en effet, pour tout f, g dans A la série en ν définissant f ∗ g est polynomiale en ν [K § 8], et donc peut s’évaluer en tout nombre complexe ν : l’étoile-produit engendre donc une famille de lois associatives noncommutatives (∗_{ν}) sur A, le paramètre ν parcourant l’ensemble des nombres complexes. Chacune de ces algèbres s’identifie via l’isomorphisme de Duflo τ_{ν} à l’algèbre enveloppante de l’algèbre de Lie 𝔤_{ν}^{ℂ}, d’espace vectoriel sous-jacent 𝔤^{ℂ} mais avec le crochet défini par [x, y]_{ν} = ν[x, y]. Pour un paramètre réel h̄ on notera 𝔤_{h̄} l’algèbre de Lie réelle d’espace vectoriel sous-jacent 𝔤 mais avec le crochet défini par [x, y]_{h̄} = h̄[x, y].

II.2. Modules topologiquement libres convergents sur (A, ∗)

Considérons pour tout ν ∈ ℂ une représentation π_{ν} de l’algèbre de Lie 𝔤_{ν} dans un espace de Fréchet M indépendant de ν. Supposons que pour tout m ∈ M et pour tout X ∈ 𝔤 l’expression π_{ν}(X)m est donnée par une série entière convergente de rayon R à valeurs dans M (cf. § I.7).

Lemme II.2.1. Les données ci-dessus munissent M = M[[ν]] d’une structure de A-module topologiquement libre convergent de rayon R.

Démonstration. Il suffit de montrer que la sous-ℂ[ν]-algèbre A_{𝔤} de A engendrée par 𝔤 contient A = S(𝔤). On raisonne par récurrence sur le degré n d’un élément u ∈ S(𝔤). Les cas n = 0 et n = 1 sont immédiats. Supposons donc que u = Xv avec X ∈ 𝔤 et v ∈ S^{n−1}(𝔤). Par hypothèse de récurrence v s’écrit comme une somme de termes du type :

Y_{1} ∗ ⋯ ∗ Y_{k}

avec k ≤ n − 1. Or on a :

X ∗ (Y_{1} ∗ ⋯ ∗ Y_{k}) = X(Y_{1} ∗ ⋯ ∗ Y_{k}) + νP,

où P ∈ S^{n−1}(𝔤)[ν]. En appliquant l’hypothèse de récurrence à P on voit alors que u = Xv appartient à A_{𝔤}. L’expression π_{ν}(a)m donnée par (I.7.1) pour tout ν ∈ D(0, R), a ∈ A et m ∈ M est manifestement une série entière en ν, ce qui fait de M un A-module topologiquement libre convergent de rayon R.

•

Comme l’étoile-produit converge sur A pour toute valeur de ν on en déduit :

Proposition II.2.2. Tout module topologiquement libre M = M[[ν]] convergent de rayon R sur (A, ∗) induit pour tout ν ∈ D(0, R) une représentation π_{ν} de l’algèbre (A, ∗_{ν}) dans M.

II.3. Unitarité

Soit π = (π_{ν}) une représentation fortement unitaire (au sens du § I.6) de A dans un module topologiquement libre M = M[[ν]] convergent de rayon R. La représentation π induit alors par spécialisation du paramètre, grâce à la proposition II.2.1, une représentation π_{ν} de (A, ∗_{ν}) dans M pour tout nombre complexe ν de module inférieur à R. On posera également ν = ih̄.

Théorème II.3.1. Soit π = (π_{ν}) une représentation fortement unitaire (au sens du § I.6) de A dans un module topologiquement libre M = M[[ν]] convergent de rayon R. Pour tout réel h̄ ∈ [0, R[ la correspondance :

\begin{matrix}ρ_{h̄} : 𝔤 & ⟶ End M \\ X & ⟼ −iπ_{ih̄}(X) \end{matrix}

définit une représentation unitaire de l’algèbre de Lie réelle 𝔤_{h̄} (au sens des algèbres de Lie, i.e. par des opérateurs antisymétriques). Réciproquement une famille (ρ_{h̄})_{h̄∈[0,R[} de représentations unitaires de 𝔤_{h̄} dans un même module M, que l’on suppose donnée par une série entière en h̄ qui converge pour |h̄| < R, définit une représentation fortement unitaire π_{ν} de A (au sens du § I.6) par la formule :

π_{ν}(X) = iρ_{−iν}(X) pour tout X ∈ 𝔤.  (II.3.1)

Démonstration. Si X ∈ 𝔤 on a X^{∗} = X. L’unitarité de π_{ν} implique immédiatement que π_{ih̄}(X) est symétrique. L’opérateur ρ_{h̄}(X) est donc bien antisymétrique, et on a pour X, Y ∈ 𝔤 :

[ρ_{h̄}(X), ρ_{h̄}(Y)] = −[π_{ih̄}(X), π_{ih̄}(Y)]
= −ih̄π_{ih̄}([X, Y])
= h̄ρ_{h̄}([X, Y]),
= ρ_{h̄}([X, Y]_{h̄}),

d’où la première partie de la proposition. La réciproque est immédiate, en appliquant (II.3.1) pour tout ν imaginaire pur, en prolongeant analytiquement le π_{ν} ainsi défini à tout ν ∈ ℂ et en appliquant la construction du § II.2.

•

III. Exemples

Nous explicitons ici la variété caractéristique et la variété de Poisson caractéristique dans quelques exemples Poisson-linéaires.

III.1. Le groupe de Heisenberg

Considérons le groupe de Heisenberg H_{2n+1} = ℝ^{n} × ℝ^{n} × ℝ muni du produit

(x, y, z) · (x′, y′, z′) = (x + x′, y + y′, z + z′ + \frac{1}{2}(xy′ − x′y)).

Son algèbre de Lie 𝔥_{2n+1} est engendrée par < X_{1}, ..., X_{n}, Y_{1}, ..., Y_{n}, Z > dont les crochets de Lie sont donnés par :

[X_{i}, X_{j}] = δ_{ij}Z, i, j = 1, ..., n.

Pour f_{λ} = λZ^{∗} + ∑_{i=1}^{n} a_{i}X_{i}^{∗} + ∑_{i=1}^{n} b_{i}Y_{i}^{∗} ∈ 𝔥_{2n+1}^{∗}, considérons la représentation ρ^{λ} associée à

f_{λ} par la méthode des orbites.

Cas 1 : Si λ ≠ 0 on peut prendre f_{λ} = λZ^{∗}, en effet, la dimension de ρ^{λ} est infinie et l’orbite associée à f_{λ} sous l’action coadjointe est Ω_{f_{λ}} = {(λ, u, v), u, v ∈ ℝ^{n}}. Si on réalise ρ^{λ} à l’aide de la polarisation 𝔟 =< Y_{1}, Y_{2}, ..., Y_{n}, Z >, alors ρ^{λ} agit sur l’espace L^{2}(ℝ^{n}). On notera aussi ρ^{λ} sa différentielle, qui se réalise dans l’espace de Fréchet des vecteurs C^{∞}, qui est ici l’espace de Schwartz S(ℝ^{n}) [Ki]. Elle est donnée par :

\{ \begin{matrix}ρ^{λ}(Z) = −iλ \\ ρ^{λ}(X_{i}) = −\frac{∂}{∂t_{i}} , i = 1, ..., n \\ ρ^{λ}(Y_{j}) = it_{j}, j = 1, ..., n. \end{matrix}

Ainsi, la représentation ρ_{h̄}^{λ} est définie par les relations :

\{ \begin{matrix}ρ_{h̄}^{λ}(Z) = −iλ \\ ρ_{h̄}^{λ}(X_{i}) = −\frac{∂}{∂t_{i}} , i = 1, ..., n \\ ρ_{h̄}^{λ}(Y_{j}) = ih̄t_{j}, j = 1, ..., n. \end{matrix}

Posons ν = ih̄. Utilisant le théorème II.3.1, on en déduit la représentation de A associée :

\{ \begin{matrix}π_{ν}^{λ}(Z) = λ \\ π_{ν}^{λ}(X_{i}) = −i\frac{∂}{∂t_{i}} , i = 1, ..., n \\ π_{ν}^{λ}(Y_{j}) = −iνt_{j}, j = 1, ..., n. \end{matrix}

L’annulateur de π_{ν}^{λ} est donc engendré par Z − λ, et donc :

VA(π_{ν}^{λ}) = Ω_{f_{λ}}.

Par suite,

\{ \begin{matrix}π_{0}^{λ}(Z) = λ \\ π_{0}^{λ}(X_{i}) = −i\frac{∂}{∂t_{i}} , i = 1, ..., n \\ π_{0}^{λ}(Y_{j}) = 0, j = 1, ..., n. \end{matrix}

On en déduit alors que Ann(π_{0}^{λ}) est engendré par < Z − λ, Y_{j}, j = 1, ..., n >. Il vient alors que :

\begin{aligned}V (π_{ν}^{λ}) & = \{l ∈ 𝔥_{2n+1}^{∗}/l(Z − λ) = 0 et l(Y_{j}) = 0, j = 1, ..., n\} \\ & = λZ^{∗}⊕_{i=1}^{n}ℝX_{i}^{∗} = f_{λ} + 𝔟^{⊥}. \end{aligned}

Un calcul analogue montre que si on réalise ρ^{λ} à l’aide de la polarisation 𝔟′ =< X_{1}, ..., X_{n}, Z >, alors on a aussi que V (π_{ν}^{λ}) = f_{λ} + 𝔟′^{⊥} et donc on voit clairement que V (π_{ν}^{λ}) dépend de la réalisation de π^{λ}.

Cas 2 : Si λ = 0, alors, l’orbite Ω_{f_{0}} se réduit au point {f_{0}} et la polarisation associée à f_{0} est l’algèbre de Lie 𝔥_{2n+1} toute entière. Ainsi,

ρ^{0}(X) = −if_{0}(X), pour tout X ∈ 𝔥_{2n+1}.

Dans ce cas, on a que : π_{ν}^{0}(X) = π_{0}^{0}(X), pour tout X ∈ 𝔥_{2n+1}. On en déduit alors que l’annulateur de π_{ν}^{0} est l’idéal engendré par {X − f_{0}(X), X ∈ 𝔥_{2n+1}}. Il s’ensuit alors que

\begin{aligned}V (π_{ν}^{0}) & = \{l ∈ 𝔥_{2n+1}^{∗}/l(X − f_{0}(X)) = 0, ∀X ∈ 𝔥_{2n+1}\} \\ & = \{f_{0}\}, \end{aligned}

et de même, VA(π_{ν}^{0}) = {f_{0}}.

III.2. L’algèbre de Lie filiforme de pas n

Considérons le groupe de Lie nilpotent filiforme de pas n, G_{n} d’algèbre de Lie 𝔤_{n} de dimension n + 1 muni d’une base de Jordan-Hölder (X_{1}, ..., X_{n+1}) avec

[X_{n+1}, X_{j}] = X_{j−1}, j = 2, ..., n.

Soit (X_{1}^{∗}, …, X_{n+1}^{∗}) la base duale de 𝔤^{∗}. Le centre de 𝔤 est engendré par le vecteur X_{1}. Soit l = l_{1}X_{1}^{∗} + ⋯ + l_{n+1}X_{n+1}^{∗} ∈ 𝔤^{∗} avec l_{1} ≠ 0. Alors, 𝔟(l) =Vect{X_{1}, ..., X_{n}} est un idéal abélien de 𝔤_{n} qui polarise l.

Comme l’ensemble indice de Pukanszky est {2, n + 1}, sans perte de généralités, on peut supposer que l_{2} = l_{n+1} = 0 (voir [BBR]). La représentation unitaire et irréductible ρ = ρ_{l} associée à l se réalise alors sur L^{2}(ℝ). Sa différentielle est donnée par :

\{ \begin{matrix}ρ(X_{n+1}) = −\frac{∂}{∂t} \\ ρ(X_{1}) = −il_{1} \\ ρ(X_{2}) = itl_{1} \\ ρ(X_{3}) = −i(l_{3} + \frac{1}{2}t^{2}l_{1}) \\ . \\ . \\ . \\ ρ(X_{n}) = −i(l_{n} − l_{n−1}t + \frac{1}{2}l_{n−2}t^{2} + ... + (−1)^{n−3} \frac{l_{3}}{(n − 3)!}t^{n−3} + (−1)^{n−1} \frac{l_{1}}{(n − 1)!}t^{n−1}). \end{matrix}

Il s’ensuit alors que la représentation ρ_{h̄} est déterminée par :

\{ \begin{matrix}ρ_{h̄}(X_{n+1}) = −\frac{∂}{∂t} \\ ρ_{h̄}(X_{1}) = −il_{1} \\ ρ_{h̄}(X_{2}) = +ih̄tl_{1} \\ ρ_{h̄}(X_{3}) = −i(l_{3} + \frac{1}{2}h̄^{2}t^{2}l_{1}) \\ . \\ . \\ . \\ ρ_{h̄}(X_{n}) = −i(l_{n} − l_{n−1}h̄t + \frac{1}{2}l_{n−2}h̄^{2}t^{2} + ... + \frac{l_{3}}{(n − 3)!}(−h̄t)^{n−3} + \frac{l_{1}}{(n − 1)!}(−h̄t)^{n−1}), \end{matrix}

et par suite, en appliquant le théorème II.3.1. on obtient :

\{ \begin{matrix}π_{ν}(X_{n+1}) = −i\frac{∂}{∂t} \\ π_{ν}(X_{1}) = l_{1} \\ π_{ν}(X_{2}) = +iνtl_{1} \\ π_{ν}(X_{3}) = l_{3} − \frac{1}{2}ν^{2}t^{2}l_{1} \\ . \\ . \\ . \\ π_{ν}(X_{n}) = l_{n} + iνl_{n−1}t − \frac{1}{2}ν^{2}l_{n−2}t^{2} + ... + (iν)^{n−3} \frac{l_{3}}{(n − 3)!}t^{n−3} + (iν)^{n−1} \frac{l_{1}}{(n − 1)!}t^{n−1}. \end{matrix}

Faisant ν = 0 on obtient donc :

\{ \begin{matrix}π_{0}(X_{n+1}) = −i\frac{∂}{∂t} \\ π_{0}(X_{1}) = l_{1} \\ π_{0}(X_{2}) = 0 \\ π_{0}(X_{3}) = l_{3} \\ . \\ . \\ . \\ π_{0}(X_{n}) = l_{n}. \end{matrix}

En remarquant que Ann(π_{0}) est engendré par < X_{1} − l_{1}, X_{2}, X_{3} − l_{3}, ..., X_{n} − l_{n} >, il vient que pour f = (f_{1}, ..., f_{n+1}) ∈ 𝔤^{∗}, f ∈ V (π_{ν}) si et seulement si f ∈ l + 𝔟(l)^{⊥}. D’autre part on voit que l’annulateur de π_{ν} est engendré par les v_{k}, k = 1, …, n, avec :

v_{k} = X_{k} − l_{k} − \frac{l_{k−1}}{l_{1}} X_{2} − \frac{l_{k−2}}{2l_{1}^{2}} X_{2}^{2} − ⋯ − \frac{l_{3}}{(k − 3)!l_{1}^{k−3}} X_{2}^{k−3} − \frac{1}{(k − 1)!l_{1}^{k−2}} X_{2}^{k−1}.

La variété de Poisson caractéristique VA(π_{ν}) est donc égale à l’orbite coadjointe Ω_{l}.

III.3. L’algèbre de Lie du groupe affine de la droite :

Considérons le groupe de Lie complétement résoluble ”aX + b” défini par

G = \{( \begin{matrix}a & b \\ 0 & 1 \end{matrix} ) , a, b ∈ ℝ et a > 0\}. Son algèbre de Lie est 𝔤 = ℝX ⊕ ℝY,

où X = ( \begin{matrix}1 & 0 \\ 0 & 0 \end{matrix} ) et Y = ( \begin{matrix}0 & 1 \\ 0 & 0 \end{matrix} ) et dont le crochet de Lie est donné par [X, Y] = Y.

Ce groupe possède deux représentations unitaires et irréductibles ρ_{+} et ρ_{−} associées respectivement aux formes linéaires Y^{∗} et −Y^{∗}. Les différentielles de ces représentations sont définies par :

\{ \begin{matrix}ρ_{+}(X) = −\frac{d}{dx} \\ ρ_{+}(Y) = −ie^{−x} \end{matrix} et \{ \begin{matrix}ρ_{−}(X) = −\frac{d}{dx} \\ ρ_{−}(Y) = ie^{−x}. \end{matrix}

Alors, les expressions de ρ_{+,h̄} et ρ_{−,h̄} sont données respectivement par :

\{ \begin{matrix}ρ_{+,h̄}(X) = −\frac{d}{dx} \\ ρ_{+,h̄}(Y) = −ie^{−h̄x} \end{matrix} et \{ \begin{matrix}ρ_{−,h̄}(X) = −\frac{d}{dx} \\ ρ_{−,h̄}(Y) = ie^{−h̄x}. \end{matrix}

Les annulateurs des représentations π_{+ν} et π_{−ν} sont réduits au singleton {0} et par conséquent, les ensembles VA(π_{+,ν}) et VA(π_{−,ν}) sont égaux à 𝔤^{∗}. En prenant ν = 0, il vient que les annulateurs de π_{+,0} et π_{−,0} sont respectivement engendrés par ⟨Y − 1⟩ et ⟨Y + 1⟩. On obtient alors que :

\begin{aligned}V (π_{+,ν}) & = \{l = xX^{∗} + yY^{∗} ∈ 𝔤^{∗} / ∀φ ∈ Ann π_{+,0}, φ(l) = 0\} \\ & = \{l = xX^{∗} + yY^{∗} ∈ 𝔤^{∗} /y − 1 = 0\} = Y^{∗} + 𝔟^{⊥} \end{aligned}

où 𝔟 = ℝY est la polarisation asoociée aux formes Y^{∗} et −Y^{∗}. De même,

V (π_{−,ν}) = {l = xX^{∗} + yY^{∗} ∈ 𝔤^{∗} /y + 1 = 0} = −Y^{∗} + 𝔟^{⊥}.

Remarque : Pour ces deux représentations, la variété de Poisson caractéristique coïncide avec l’adhérence de Zariski de l’orbite coadjointe associée.

III.4. Un exemple résoluble exponentiel de dimension 3:

Soit 𝔤 l’algèbre de Lie engendrée par les trois vecteurs {A, X, Y } dont les crochets de Lie sont donnés par: [A, X] = X − Y, [A, Y] = X + Y et soit G = exp 𝔤. Alors, G est un groupe de Lie exponentiel non complètement résoluble. Soit f = xX^{∗} +yY^{∗} +aA^{∗} ∈ 𝔤^{∗}. Si x^{2} +y^{2} = 0, alors, l’orbite de f est réduite au singleton {f}. Ainsi, le calcul précédent de l’exemple III.1. montre que dans ce cas, V (π_{f,ν}) = {f}. Dans le cas où x^{2} + y^{2} ≠ 0, la sous-algèbre 𝔟 engendrée par < X, Y > est une polarisation de f vérifiant la condition de Pukanszky. Soit alors χ_{f} le caractère défini sur B = exp 𝔟 par χ_{f}(exp U) = e^{−if(U)} et ρ_{f} = Ind_{B}^{G}χ_{f}. On sait [ABLS] qu’il existe un unique θ ∈ [0, 2π[ tel que ρ = ρ_{θ} = ρ_{f_{θ}} où f_{θ} = cos θX^{∗} + sin θY^{∗}. L’orbite Ω associée à ρ est paramétrisée par

Ω = {sA^{∗} + e^{−t} cos(t + θ)X^{∗} + e^{−t} sin(t + θ)Y^{∗}, s, t ∈ ℝ }.

D’autre part, on a que :

\{ \begin{matrix}ρ(A) = −\frac{d}{dt} \\ ρ(X) = −ie^{−t} cos(θ + t) \\ ρ(Y) = −ie^{−t} sin(θ + t) \end{matrix} et \{ \begin{matrix}ρ_{h̄}(A) = −\frac{d}{dt} \\ ρ_{h̄}(X) = −ie^{−h̄t} cos(θ + h̄t) \\ ρ_{h̄}(Y) = −ie^{−h̄t} sin(θ + h̄t). \end{matrix}

Donc,

\{ \begin{matrix}π_{ν}(A) = −i\frac{d}{dt} \\ π_{ν}(X) = e^{iνt} cos(θ − iνt) \\ π_{ν}(Y) = e^{iνt} sin(θ − iνt). \end{matrix} et \{ \begin{matrix}π_{0}(A) = −i\frac{d}{dt} \\ π_{0}(X) = cos θ \\ π_{0}(Y) = sin θ. \end{matrix}

Il s’ensuit alors que l’annulateur de π_{ν} est réduit à {0}, et donc :

VA(π_{ν}) = 𝔤^{∗}.

La variété de Poisson caractéristique coïncide donc ici aussi avec l’adhérence de Zariski de l’orbite coadjointe associée. Pour le voir il suffit de se convaincre que la spirale logarithmique est Zariski-dense dans le plan, en remarquant que toute droite passant par l’origine intersecte cette spirale en une infinité de points. Par ailleurs l’annulateur de π_{0} est l’idéal engendré par les deux générateurs {X −cos θ, Y −sin θ}. Soit B = exp 𝔟. La représentation ρ agit sur l’espace L^{2}(G/B) qui est isomorphe à L^{2}(exp ℝA). On a alors,

V (π_{ν}) = {l ∈ 𝔤^{∗} /l(X − cos θ) = 0 et l(Y − sin θ) = 0}
= f_{θ} + ℝA^{∗} = f_{θ} + 𝔟^{⊥}.

III.5. L’algèbre de Lie du groupe diamant

C’est l’algèbre de Lie réelle 𝔤 de dimension 4 de base (H, P, Q, E) avec les crochets :

[H, P] = −Q,  [H, Q] = P,  [P, Q] = E,

les autres crochets étant nuls. Notre référence est M. Vergne dans [BCD Chap. VIII § 1.4]. Si X = aH + bP + cQ + dE on calcule facilement la matrice de ad X dans cette base :

ad X = ( \begin{matrix}0 & 0 & 0 & 0 \\ −c & 0 & a & 0 \\ b & −a & 0 & 0 \\ 0 & −c & b & 0 \end{matrix} ) .

On a également :

(ad X)^{2} = ( \begin{matrix}0 & 0 & 0 & 0 \\ ab & −a^{2} & 0 & 0 \\ ac & 0 & −a^{2} & 0 \\ b^{2} + c^{2} & −ab & −ac & 0 \end{matrix} ) ,

ainsi que l’égalité :

(ad X)^{3} = −a^{2}(ad X).

On en déduit l’expression explicite :

exp(ad X) = I + \frac{sin a}{a} ad X + \frac{1 − cos a}{a^{2}}(ad X)^{2}.

Après transposition et passage à l’inverse on en déduit la matrice de exp(ad^{∗} X) dans la base duale :

exp(ad^{∗} X) = ( \begin{matrix}1 & c\frac{sin a}{a} + b\frac{1−cos a}{a} & −b\frac{sin a}{a} + c\frac{1−cos a}{a} & (b^{2} + c^{2})\frac{1−cos a}{a^{2}} \\ 0 & cos a & sin a & c\frac{sin a}{a} − b\frac{1−cos a}{a} \\ 0 & − sin a & cos a & −b\frac{sin a}{a} − c\frac{1−cos a}{a} \\ 0 & 0 & 0 & 1 \end{matrix} ) .

L’action coadjointe de exp X sur un élément ξ = μH^{∗} + βP^{∗} + γQ^{∗} + λE^{∗} s’écrit donc :

Ad^{∗}(exp X).ξ = (μ + (c\frac{sin a}{a} + b\frac{1 − cos a}{a})β + (−b\frac{sin a}{a} + c\frac{1 − cos a}{a})γ

+ (b^{2} + c^{2})\frac{1 − cos a}{a^{2}}λ)H^{∗}

+ ((cos a)β + (sin a)γ + (c\frac{sin a}{a} − b\frac{1 − cos a}{a})λ)P^{∗}

+ ((− sin a)β + (cos a)γ + (−b\frac{sin a}{a} − c\frac{1 − cos a}{a})λ)Q^{∗}

+ λE^{∗}.

On note ξ_{i} la i-ème coordonnée de Ad^{∗}(exp X).ξ. La dernière coordonnée ξ_{4} est ici invariante sous l’action coadjointe. Deux cas sont à considérer : Premier cas: ξ_{4} = λ = 0. L’expression ξ_{2}^{2} + ξ_{3}^{2} = β^{2} + γ^{2} est invariante sur le sousespace défini par ξ_{4} = 0. On voit alors que les orbites coadjointes correspondantes sont les cylindres d’axe H^{∗} et chacun des points de cet axe, suivant que ξ_{2}^{2} + ξ_{3}^{2} est strictement positif ou s’annule. Ce sont exactement les orbites coadjointes du quotient de 𝔤 par son centre (l’algèbre de Lie du groupe des déplacements du plan) : nous traitons cet exemple au paragraphe suivant.

Deuxième cas : ξ_{4} = λ ≠ 0. Faisant agir exp Y sur ξ avec Y = bP + cQ on obtient :

Ad^{∗}(exp Y).ξ = (μ + cβ + bγ + (b^{2} + c^{2})λ)H^{∗}
+ (β + cλ)P^{∗}
+ (γ − bλ)Q^{∗}
+ λE^{∗}.

En choisissant bien b et c on peut donc se ramener au cas où β = γ = 0, ce que nous supposerons. La formule explicite donnant Ad^{∗}(exp X).ξ se simplifie alors :

Ad^{∗}(exp X).ξ = (μ + (b^{2} + c^{2})\frac{1 − cos a}{a^{2}}λ)H^{∗}

+ (c\frac{sin a}{a} − b\frac{1 − cos a}{a})λP^{∗}

+ (−b\frac{sin a}{a} − c\frac{1 − cos a}{a})λQ^{∗}

+ λE^{∗}.

On voit que l’on a :

\begin{aligned}ξ_{1} − \frac{ξ_{2}^{2} + ξ_{3}^{2}}{2ξ_{4}} & = μ \\ ξ_{4} & = λ. \end{aligned}  (III.5.1)

Les orbites coadjointes dans ce cas-là sont donc les paraboloïdes de révolution Ω_{λ,μ} d’axe H^{∗} donnés par les équations III.5.1.

Soit φ la fonction entière d’une variable complexe définie par :

φ(z) = \frac{sh z/2}{z/2}.

Il est clair que la matrice de φ^{1/2}(ad X) est de la forme :

( \begin{matrix}1 & 0 & 0 & 0 \\ ∗ & φ^{1/2}(ia) & 0 & 0 \\ ∗ & ∗ & φ^{1/2}(ia) & 0 \\ ∗ & ∗ & ∗ & 1 \end{matrix} ) ,

d’où avec les notations du § II.1 :

J(X)^{1/2} = \frac{sin(νa/2)}{νa/2}.

L’isomorphisme de Duflo est donc donné par :

τ = \frac{sin(ν∂_{1}/2)}{ν∂_{1}/2} ∘ σ,

où ∂_{1} désigne l’opérateur de dérivée partielle \frac{∂}{∂ξ_{1}} dans 𝔤^{∗}, et où σ désigne la symétrisation.

Compte tenu des équations III.5.1 on voit facilement que l’algèbre S(𝔤)^{𝔤} des polynômes invariants sur 𝔤^{∗} est engendrée par C_{1} et C_{2}, avec C_{1}(ξ) = ξ_{4} et C_{2}(ξ) = ξ_{2}^{2} + ξ_{3}^{2} − 2ξ_{1}ξ_{4}. L’orbite coadjointe Ω_{λ,μ} définie par III.5.1 est donnée de façon équivalente par les équations :

C_{1}(ξ) = λ,  C_{2}(ξ) = −2λμ.  (III.5.2)

L’opérateur J(D)^{1/2} agit par l’identité sur ces deux générateurs, et donc l’isomorphisme de Duflo τ se ramène à appliquer la symétrisation sur les deux générateurs. Nous noterons encore un peu abusivement C_{1} et C_{2} les deux Casimirs τ(C_{1}) et τ(C_{2}). On a explicitement :

C_{1} = E, C_{2} = P^{2} + Q^{2} − 2EH.

Nous utilisons maintenant les notations du § II. Pour tout réel h̄ il existe une famille de représentations unitaires irréductibles ρ_{λ,μ;h̄} de G_{h̄} = exp 𝔤_{h̄}, dont les différentielles sont définies sur l’espace de Schwartz S(ℝ) (muni du produit scalaire de L^{2}(ℝ)) par :

\begin{aligned}ρ_{λ,μ;h̄}(H) & = −i(−\frac{1}{2λ} \frac{d^{2}}{dx^{2}} + \frac{1}{2}λh̄^{2}x^{2} + μ) \\ ρ_{λ,μ;h̄}(P) & = −\frac{d}{dx} \\ ρ_{λ,μ;h̄}(Q) & = iλh̄x \\ ρ_{λ,μ;h̄}(E) & = −iλ. \end{aligned}

Ces représentations sont unitairement équivalentes à celles que l’on obtient par induction holomorphe à partir du point μH^{∗} + λE^{∗} et de la polarisation complexe 𝔥 engendrée par H, E, P + iQ ([BCD] § V.4 et VIII.1.4.4). Posant ν = ih̄ et appliquant le théorème II.3.1 on en déduit une représentation unitaire π_{λ,μ;ν} de l’algèbre déformée A dans le module topologiquement libre S(ℝ)[[ν]] :

\begin{aligned}π_{λ,μ;ν}(H) & = −\frac{1}{2λ} \frac{d^{2}}{dx^{2}} − \frac{1}{2}λν^{2}x^{2} + μ \\ π_{λ,μ;ν}(P) & = −i\frac{d}{dx} \\ π_{λ,μ;ν}(Q) & = iλνx \\ π_{λ,μ;ν}(E) & = λ. \end{aligned}

En annulant le paramètre ν on voit que l’annulateur Ann π_{λ,μ;0} est l’idéal de S(𝔤) engendré par E − λ, Q et C_{2} + 2λμ. On en déduit que la variété caractéristique V (π_{λ,μ;ν}) est définie par les équations :

ξ_{2}^{2} + ξ_{3}^{2} − 2ξ_{1}ξ_{4} = −2λμ,  ξ_{4} = λ,  ξ_{3} = 0.

La variété caractéristique V (π_{λ,μ;ν}) est donc une génératrice du paraboloïde de révolution Ω_{λ,μ}. La non-existence de polarisations réelles se traduit ici par le fait que la variété caractéristique n’est pas un sous-espace affine (cf. § IV.2).

L’annulateur Ann π_{λ,μ;ν} est quant à lui engendré dans A par C_{1} − λ et C_{2} + 2λμ. L’idéal Ann π_{λ,μ;ν}/ν Ann π_{λ,μ;ν} est donc engendré dans S(𝔤) par C_{1} − λ et C_{2} + 2λμ également. On en déduit que la variété de Poisson caractéristique VA(π_{λ,μ;ν}) coïncide avec l’orbite coadjointe Ω_{λ,μ}.

III.6. L’algèbre de Lie du groupe des déplacements du plan

C’est l’algèbre de Lie réelle 𝔤 de dimension 3 de base (H, P, Q) avec les crochets :

[H, P] = −Q, [H, Q] = P,

les autres crochets étant nuls. Nous nous référons encore à l’article de M. Vergne [BCD Chap. VIII § 1.3], ainsi qu’à [AM]. Si X = aH + bP + cQ on calcule facilement la matrice de ad X dans cette base :

ad X = ( \begin{matrix}0 & 0 & 0 \\ −c & 0 & a \\ b & −a & 0 \end{matrix} ) .

On a également :

(ad X)^{2} = ( \begin{matrix}0 & 0 & 0 \\ ab & −a^{2} & 0 \\ ac & 0 & −a^{2} \end{matrix} ) ,

ainsi que l’égalité :

(ad X)^{3} = −a^{2}(ad X).

On en déduit la même expression explicite que dans l’exemple précédent :

exp(ad X) = I + \frac{sin a}{a} ad X + \frac{1 − cos a}{a^{2}}(ad X)^{2}.

Après transposition et passage à l’inverse on en déduit la matrice de exp(ad^{∗} X) dans la base duale :

exp(ad^{∗} X) = ( \begin{matrix}1 & c\frac{sin a}{a} + b\frac{1−cos a}{a} & −b\frac{sin a}{a} + c\frac{1−cos a}{a} \\ 0 & cos a & sin a \\ 0 & − sin a & cos a \end{matrix} ) .

L’action coadjointe de exp X sur un élément ξ = μH^{∗} + βP^{∗} + γQ^{∗} s’écrit donc :

Ad^{∗}(exp X).ξ = (μ + (c\frac{sin a}{a} + b\frac{1 − cos a}{a})β + (−b\frac{sin a}{a} + c\frac{1 − cos a}{a})γ)H^{∗}
+ ((cos a)β + (sin a)γ)P^{∗}
+ ((− sin a)β + (cos a)γ)Q^{∗}.

Les orbites coadjointes sont donc les points μH^{∗} et les cylindres Ω_{r}, r > 0 d’axe H^{∗} et de rayon r, définis par l’équation ξ_{2}^{2} + ξ_{3}^{2} = r^{2}.

L’isomorphisme de Duflo est encore donné par :

τ = \frac{sin(ν∂_{1}/2)}{ν∂_{1}/2} ∘ σ,

où ∂_{1} désigne l’opérateur de dérivée partielle \frac{∂}{∂ξ_{1}} dans 𝔤^{∗}, et où σ désigne la symétrisation.

L’algèbre des invariants admet C : ξ ↦ ξ_{2}^{2} + ξ_{3}^{2} comme seul générateur, et l’isomorphisme de Duflo consiste encore à appliquer l’identité sur ce générateur. Le Casimir τ(C) que nous notons encore C s’écrit :

C = P^{2} + Q^{2}.

On considère pour r > 0, h̄ ≠ 0 et 0 ≤ λ < 1 la famille ρ_{r,λ;h̄} de représentations unitaires irréductibles de G_{h̄} = exp 𝔤_{h̄} dont les différentielles sont définies par :

\begin{aligned}ρ_{r,λ;h̄}(H) & = −h̄\frac{d}{dθ} \\ ρ_{r,λ;h̄}(P) & = ir sin(θ) \\ ρ_{r,λ;h̄}(Q) & = ir cos(θ) \end{aligned}

sur l’espace des vecteurs C^{∞}. On considère ici l’espace C_{λ} des fonctions φ entières sur ℝ telles que φ(x + 2π) = e^{2iπλ}φ(x). C’est un sous-espace invariant de l’espace des vecteurs C^{∞}. Posant ν = ih̄ et appliquant le théorème II.3.1 on a donc une famille de représentations unitaires de A dans C_{λ}[[ν]] :

\begin{aligned}π_{r,λ;ν}(H) & = −ν \frac{d}{dθ} \\ π_{r,λ;ν}(P) & = −r sin(θ) \\ π_{r,λ;ν}(Q) & = −r cos(θ). \end{aligned}

En annulant ν on voit que l’annulateur Ann π_{r,λ;0} est engendré par H et par P^{2} + Q^{2} − r^{2}. La variété caractéristique V (π_{r,λ;ν}) est donc le cercle de cote nulle dans Ω_{r} défini par les équations ξ_{2}^{2} + ξ_{3}^{2} = r^{2} et ξ_{1} = 0. Elle est donc indépendante du paramètre supplémentaire λ. L’annulateur Ann π_{r,λ;ν} est quant à lui engendré dans A par C − r^{2}.

L’idéal Ann π_{r,λ;ν}/ν Ann π_{r,λ;ν} est donc également engendré par C − r^{2} dans S(𝔤). La variété de Poisson caractéristique VA(π_{r,λ;ν}) est donc égale à l’orbite coadjointe Ω_{r}.

Soit C^{ω}(ℝ) l’espace des fonctions entières sur ℝ, et soit R l’opérateur sur C^{ω}(ℝ)[[ν]] défini par :

Rφ(θ) = νφ(νθ).

Cet opérateur est injectif. Soit C̃_{λ} = R(C_{λ}[[ν]]), et soit π̃_{r,λ;ν} la représentation de A sur C̃_{λ} définie par :

π̃_{r,λ;ν}(X) = R ∘ π_{r,λ;ν} ∘ R^{−1}.

Les deux représentations sont équivalentes par construction, et on a :

\begin{aligned}π̃_{r,λ;ν}(H) & = −\frac{d}{dθ} \\ π̃_{r,λ;ν}(P) & = −r sin(νθ) \\ π̃_{r,λ;ν}(Q) & = −r cos(νθ). \end{aligned}

L’annulateur de π̃_{r,λ;0} est engendré par P et par Q+r. La variété caractéristique V (π̃_{r,λ;ν}) est donc cette fois-ci la génératrice du cylindre Ω_{r} définie par les équations ξ_{3} = −r et ξ_{2} = 0.

III.7. Le cas semi-simple : modules de Verma

Soit 𝔤_{1} une algèbre de Lie semi-simple complexe. La forme de Killing définie par :

(X, Y) = Tr(ad X ∘ ad Y)

est non dégénérée et invariante par l’action adjointe. Elle induit donc un isomorphisme linéaire κ de 𝔤_{1} sur son dual 𝔤_{1}^{∗}, défini par :

κ(X) = (X, −),

qui entrelace les représentations adjointe et coadjointe. Soit H un élément semi-simple de 𝔤_{1}, soit 𝔥_{1} une sous-algèbre de Cartan contenant H, soit Δ le système de racines associé, et soit Δ_{+} l’ensemble des racines positives provenant du choix d’un ordre sur 𝔥_{1}^{∗}. On désignera par W le groupe de Weyl associé à ces données.

La forme de Killing restreinte à 𝔥_{1} est non dégénérée. Soit λ = κ^{−1}(H) ∈ 𝔤_{1}^{∗}. La décomposition radicielle de 𝔤_{1} s’écrit :

𝔤_{1} = 𝔫_{1−} ⊕ 𝔥_{1} ⊕ 𝔫_{1+},

où 𝔫_{1±} = ⨁_{α∈±Δ_{+}} 𝔤_{1}^{α}. Soit δ ∈ 𝔥_{1}^{∗} la demi-somme des racines positives. La sous-algèbre de Cartan 𝔥_{1} est orthogonale à 𝔫_{1+} et 𝔫_{1−} pour la forme de Killing, ce qui permet de montrer que κ^{−1}(H) ∈ 𝔤_{1}^{∗} s’annule sur 𝔫_{1±}. On identifiera donc 𝔥_{1}^{∗} à l’orthogonal de 𝔫_{1−} ⊕𝔫_{1+} dans 𝔤_{1}^{∗} en prolongeant trivialement à 𝔫_{1−} ⊕ 𝔫_{1+} les formes linéaires sur 𝔥_{1}. Si H est régulier le stabilisateur de λ pour l’action coadjointe est égal à 𝔥_{1}, et la sous-algèbre résoluble 𝔟_{1} = 𝔥_{1} ⊕ 𝔫_{1+} est une polarisation résoluble en λ.

Le cadre ci-dessus s’applique aux algèbres de Lie (𝔤_{ν})_{ν∈ℂ−{0}} (avec les notations du § II.2), qui ont toutes le même espace vectoriel sous-jacent que nous noterons 𝔤. Nous continuerons à identifier 𝔤 et son dual avec la forme de Killing de 𝔤 = 𝔤_{1} (indépendamment de ν) et non pas avec celle de 𝔤_{ν}. La décomposition radicielle :

𝔤_{ν} = 𝔫_{ν−} ⊕ 𝔥_{ν} ⊕ 𝔫_{ν+}

est indépendante de ν en ce qui concerne les espaces vectoriels sous-jacents que nous noterons 𝔫_{−}, 𝔥 et 𝔫_{+}. De même, on note 𝔟_{+} = 𝔥 ⊕ 𝔫_{+} et :

𝔤^{α} = {X ∈ 𝔤, ∀A ∈ 𝔥, [A, X]_{ν} = να(A)X}.

Le système de racines associé à 𝔤_{ν} est donc νΔ, et 𝔤^{α} coïncide pour tout ν avec le sousespace radiciel de 𝔤_{ν} correspondant à να. Soit M_{λ}^{ν} le module de Verma associé à λ pour 𝔤_{ν}. On a :

M_{λ}^{ν} = U(𝔤_{ν}) ⊗_{U(𝔟_{ν+})} ℂ,

où un élément A+Y de 𝔟_{ν+} = 𝔥_{ν} ⊕𝔫_{ν+} agit sur ℂ via la multiplication par (λ−νδ)(A), et où l’action de U(𝔤_{ν}) est donnée par la multiplication à gauche. Lorsqu’on regarde ν comme une indéterminée ce module est topologiquement libre : il s’identifie en effet à U(𝔫_{ν−}), et donc à S(𝔫_{−})[[ν]] via symétrisation. On a la décomposition en sous-espaces de poids sous l’action de 𝔥_{ν} :

M_{λ}^{ν} = ⨁_{β∈Q_{+}}(M_{λ}^{ν})_{λ−νδ−νβ},

où Q_{+} désigne l’ensemble des combinaisons linéaires à coefficients entiers positifs d’éléments de Δ_{+}. En annulant ν on voit que tout A ∈ 𝔥_{0} agit sur M_{λ}^{0} par multiplication par λ(A), que l’action de 𝔫_{0+} est triviale sur M_{λ}^{0} , et que l’action de 𝔫_{0−} est fidèle. L’annulateur de M_{λ}^{0} dans S(𝔤) est donc l’idéal engendré par 𝔫_{+} et par les A − λ(A), A ∈ 𝔥. On en déduit :

V (M_{λ}^{ν}) = λ + 𝔟_{+}^{⊥}.

Soit χ_{λ}^{ν} : Z(U(𝔤_{ν})) → ℂ le caractère central de M_{λ}^{ν}. Soit γ_{ν} : Z(U(𝔤_{ν}))˜⟶S(𝔥)^{W} l’isomorphisme d’Harish-Chandra de 𝔤_{ν} [Dix § 7.4]. En considérant S(𝔥)^{W} comme l’ensemble des polynômes W -invariants sur 𝔥^{∗} on a alors [Dix § 7.4.6] :

χ_{λ}^{ν}(u) = γ_{ν}(u)(λ).

L’isomorphisme de Duflo τ_{ν} : S(𝔤)^{𝔤^{ν}} → Z(U(𝔤_{ν})) s’obtient en composant γ_{ν}^{−1} à gauche par la restriction à 𝔥^{∗} (isomorphisme de Chevalley). Pour tout v ∈ S(𝔤)^{𝔤^{ν}} on a donc finalement :

χ_{λ}^{ν}(τ_{ν}(v)) = v(λ).

L’annulateur du module de Verma M_{λ}^{ν} est l’idéal bilatère de U(𝔤_{ν}) engendré par Ker χ_{λ}^{ν} ([Dix], Théorème 8.4.3). Via l’isomorphisme de Duflo c’est donc l’idéal bilatère de (S(𝔤), ∗_{ν}) engendré par {v − v(λ), v ∈ S(𝔤)^{𝔤^{ν}} }.

L’idéal Ann M_{λ}^{ν}/ν Ann M_{λ}^{ν} de S(𝔤) est donc l’idéal engendré par {v − v(λ), v ∈ S(𝔤)^{𝔤^{ν}} }. On en déduit la variété de Poisson caractéristique :

VA(M_{λ}^{ν}) = {ξ ∈ 𝔤^{∗}, v(ξ) = v(λ) pour tout v ∈ S(𝔤)^{𝔤^{ν}} }.

Lorsque λ (c’est-à-dire H) est régulier, c’est l’orbite coadjointe de λ. Lorsque λ = 0 c’est le cône nilpotent.

III.8. Modules de Verma et réalité

Le module de Verma M_{λ}^{ν} admet une forme bilinéaire symétrique naturelle ayant de bonnes propriétés de covariance : la forme de Shapovalov [Sha], [D2]. En la modifiant pour la rendre sesquilinéaire hermitienne nous pourrons appliquer les résultats du § I.6.

On garde les notations du § III.7. Soit (X_{−α}, H_{α}, X_{α})_{α∈Δ_{+}} une base de Chevalley de 𝔤_{1}. Alors (−iX_{−α}, −iH_{α}, −iX_{α})_{α∈Δ_{+}} est une base de Chevalley de 𝔤_{i} (où i = \sqrt{−1}). Soit 𝔤_{i,ℝ} la forme réelle déployée de 𝔤_{i} associée. Elle est définie comme l’espace vectoriel réel engendré par les −iX_{−α}, −iH_{α}, −iX_{α}. Ceci définit une forme réelle 𝔤_{ℝ} de l’espace vectoriel sous-jacent 𝔤, qui est à son tour automatiquement une forme réelle déployée 𝔤_{ν,ℝ} de l’algèbre de Lie 𝔤_{ν} pour tout ν imaginaire pur. La conjugaison respecte les sous-espaces radiciels, donc a fortiori les trois composantes de la décomposition :

𝔤_{ν} = 𝔫_{ν−} ⊕ 𝔥_{ν} ⊕ 𝔫_{ν+}.

La conjugaison sur 𝔤 (resp. sur 𝔥) par rapport à cette forme réelle induit une conjugaison sur le dual 𝔤^{∗} (resp. 𝔥^{∗}) grâce à la formule :

\overline{ξ}(X) := \overline{ξ(\overline{X})}.

Nous étendons la conjugaison par multiplicativité à l’algèbre enveloppante U(𝔤_{ν}). Cette algèbre enveloppante admet (grâce au théorème de Poincaré-Birkhoff-Witt) la décomposition :

U(𝔤_{ν}) = U(𝔥_{ν}) ⊕ (𝔫_{ν−}U(𝔤_{ν}) + U(𝔤_{ν})𝔫_{ν+}).

Soit P_{ν} : U(𝔤_{ν}) → U(𝔥_{ν}) la projection correspondant à cette décomposition. D’après ce qui précède cette projection est compatible avec la conjugaison, c’est-à-dire :

P (\overline{u}) = \overline{P (u)} pour tout u ∈ U(𝔤_{ν}).

Nous définissons la transposition sur U(𝔤_{ν}) de la façon suivante :

tX_{α} = X_{−α},  ^{t}X_{−α} = X_{α},  ^{t}H_{α} = H_{α},

et on étend cette transposition en un anti-automorphisme de U(𝔤_{ν}). Il est immédiat de voir que la transposition commute avec la conjugaison. Nous considérerons sur U(𝔤_{ν}) l’involution (semi-linéaire) définie par :

a^{∗} =^{t} \overline{a}.

Cette involution (restreinte à 𝔤) définit une nouvelle conjugaison sur 𝔤, et donc une nouvelle forme réelle 𝔤^{ℝ}, qui est une forme réelle compacte de chacune des algèbres de Lie 𝔤_{h̄} où h̄ = −iν est un réel non nul (cf. [H] § III.6). Remarquons que l’on a :

𝔥 ∩ 𝔤^{ℝ} = i𝔥 ∩ 𝔤_{ℝ}.

Nous noterons 𝔥^{ℝ} cette intersection et nous noterons τ la conjugaison (dans 𝔤 ou dans 𝔥 ou dans leurs duaux respectifs) par rapport à cette nouvelle forme réelle. Supposons alors que λ ∈ 𝔥^{∗} est réel, c’est-à-dire τ(λ) = λ. L’involution ∗ sur U(𝔤_{ν}) coïncide, via l’isomorphisme de Duflo, avec l’involution donnée au § I, la conjugaison étant τ.

Plutôt que de considérer le module de Verma M_{ν}^{λ} comme dans le § III.7 nous considérerons le module de Verma M_{ν}^{λ+νδ}. En tant que modules sur l’algèbre déformée ils coïncident à O(ν) près donc leurs variétés caractéristiques et leurs variétés de Poisson caractéristiques sont les mêmes. Soit e_{λ+νδ}^{ν} le vecteur de plus haut poids de M_{λ+νδ}^{ν}.

Supposons que λ soit réel. Nous définissons alors une forme sesquilinéaire sur le module de Verma M_{λ+νδ}^{ν} par la formule :

< m, n >_{ν}=< a.e_{λ+νδ}^{ν}, b.e_{λ+νδ}^{ν} >_{ν}= P_{ν}(a^{∗}b)(λ).

C’est une version hermitienne de la forme de Shapovalov de M_{λ+νδ}^{ν}.

Proposition III.8.1. La représentation π_{ν} de A = U(𝔤_{ν}) dans M_{λ+νδ}^{ν} vérifie pour tout m, n ∈ M_{λ}^{ν} et pour tout u ∈ U(𝔤_{ν}) :

< um, n >_{ν}=< m, u^{∗}n >_{ν} .

Démonstration. Soient a, b ∈ U(𝔤_{ν}) tels que m = a.e_{λ}^{ν} et n = b.e_{λ}^{ν}. La proposition découle immédiatement de l’égalité :

< ua.e_{λ+νδ}^{ν}, b.e_{λ+νδ}^{ν} >=< a.e_{λ+νδ}^{ν}, u^{∗}b.e_{λ+νδ}^{ν} > .

•

La représentation associée est donc une ∗-représentation. De plus la forme quotient définie par < −, − >_{ν} en ν = 0 est hermitienne non dégénérée. Autrement dit le module de Verma M_{λ+νδ}^{ν} est fortement pseudo-unitaire. Nous pouvons donc appliquer les résultats du § I.6. Les variétés caractéristiques V (π_{ν}) et VA(π_{ν}) sont donc définies sur le corps des réels. Elles sont données par les mêmes formules explicites que dans le § III.7. Remarque : Soit λ ∈ 𝔥^{∗}. Alors, en utilisant le théorème 7.6.24 de [Dix], il est facile de voir que le module de Verma M_{λ+νδ}^{ν} est simple (et donc que la forme de Shapovalov est non-dégénérée) sauf éventuellement sur un ensemble discret dénombrable de valeurs de ν. Par ailleurs, sur la question de l’unitarisabilité de certains modules de plus haut poids, voir [EHW] et [Jak].

IV. Une construction générale à l’aide de polarisations réelles

Dans le cas résoluble exponentiel, nous explicitons dans ce paragraphe, en utilisant la construction de [Pe2], la variété caractéristique d’une représentation π_{ν} associée de manière convenable à une représentation monomiale quelconque induite à partir d’une polarisation réelle.

IV.1. Construction d’une représentation π_{ν} de A

Soient G un groupe de Lie résoluble exponentiel d’algèbre de Lie 𝔤 et soit f ∈ 𝔤^{∗} et 𝔥 une polarisation réelle en f. Notons H le sous-groupe exp 𝔥. Soit Ω_{f} l’orbite coadjointe de f et d=dim Ω_{f}. Soit 𝔤_{0} ⊂ ⋯ ⊂ 𝔤_{n}, une bonne suite de sous-algèbres de 𝔤 c’est à dire si 𝔤_{i} n’est pas un idéal de 𝔤, alors 𝔤_{i−1} et 𝔤_{i+1} le sont et 𝔤_{i}/_{𝔤_{i−2}} est un 𝔤-module irréductible. On choisit une base de 𝔤, (X_{1}, ..., X_{n}) telle que X_{k} ∈ 𝔤_{k}\𝔤_{k−1}, k ≥ 1. On regarde les ensembles indices e(f) et e^{B}(f) définis par :

e(f) = \{j ∈ \{1, ..., n\}/X_{j} ∉ 𝔤_{j−1} + 𝔥\} = \{k_{1} < ... < k_{\frac{d}{2}} \}

et

e^{B}(f) = {j ∈ {1, ⋯ n}/X_{j} ∉ 𝔤_{j−1} + 𝔤(f)}.

Alors, e(f) ⊂ e^{B}(f) et le cardinal de e^{B}(f)\e(f) est égal à \frac{d}{2}. Il existe donc des indices

j_{1} < ⋯ < j_{\frac{d}{2}} tels que e^{B}(f) = e(f) ∪ \{j_{1}, ..., j_{\frac{d}{2}} \}. D’autre part, les vecteurs X_{k_{1}}, ..., X_{k_{\frac{d}{2}}} forment une base coexponentielle à 𝔥 dans 𝔤; c’est

à dire : 𝔤 = 𝔥 ⊕ Vect (X_{k_{1}}, ..., X_{k_{\frac{d}{2}}} ) et l’application

ℝ^{\frac{d}{2}} × H ⟶ G
(q_{1}, ..., q_{\frac{d}{2}} , h) ⟼ exp(q_{\frac{d}{2}} X_{k_{\frac{d}{2}}} ) ⋯ exp(q_{1}X_{k_{1}}) · h

est un difféomorphisme. De même, les vecteurs {X_{j}, j ∈ e^{B}(f)} forment une base coexponentielle à 𝔤(f) dans 𝔤.

Soit ρ = ind_{H}^{G}χ_{f}. Alors, D’après Pedersen [Pe2](theorem 3.2.3), ρ se réalise sur l’espace de Hilbert L^{2}(Ω) où Ω est un ouvert de ℝ^{\frac{d}{2}} . Sa différentielle est donnée par :

\begin{aligned}ρ(X)ξ(t) & = ∑_{u=1}^{\frac{d}{2}} a_{X,u}(t)\frac{∂ξ}{∂t_{u}} (t) + ia_{X,0}(t)ξ(t) \\ & + \frac{1}{2} ∑_{u=1}^{\frac{d}{2}} \frac{∂}{∂t_{u}} a_{X,u}(t)ξ(t), \end{aligned}

pour tout X ∈ 𝔤 où ξ désigne une fonction de D(ℝ^{\frac{d}{2}} ) et les a_{X,u}, u = 1, …, \frac{d}{2} sont des fonctions de classe C^{∞} sur l’ouvert Ω. Ainsi,

\begin{aligned}ρ_{h̄}(X)ξ(t) & = ∑_{u=1}^{\frac{d}{2}} a_{X,u}(h̄t)\frac{∂ξ}{∂t_{u}} (t) + ia_{X,0}(h̄t)ξ(t) + \frac{1}{2} ∑_{u=1}^{\frac{d}{2}} \frac{∂}{∂t_{u}} (a_{X,u}(h̄t))ξ(t), \\ & = ∑_{u=1}^{\frac{d}{2}} a_{X,u}(h̄t)\frac{∂ξ}{∂t_{u}} (t) + ia_{X,0}(h̄t)ξ(t) + \frac{h̄}{2} ∑_{u=1}^{\frac{d}{2}} \frac{∂}{∂t_{u}} a_{X,u}(h̄t)ξ(t). \end{aligned}

En posant ν = ih̄ et en appliquant le théorème II.3.1, on en déduit l’expression de la représentation π_{ν} de l’algèbre déformée :

π_{ν}(X)ξ(t) = ∑_{u=1}^{\frac{d}{2}} ia_{X,u}(−iνt)\frac{∂ξ}{∂t_{u}} (t) − a_{X,0}(−iνt)ξ(t) + \frac{ν}{2} ∑_{u=1}^{\frac{d}{2}} \frac{∂}{∂t_{u}} a_{X,u}(−iνt)ξ(t).

IV.2. Calcul de la variété caractéristique

Théorème IV.2.1. Soient 𝔤 une algèbre de Lie résoluble exponentielle, f un élément de 𝔤^{∗} et 𝔟 une polarisation réelle en f. Soit ρ = Ind_{B}^{G}χ_{f} la représentation unitaire associée à f avec B = exp 𝔟 et soit π_{ν} la représentation de l’algèbre déformée A construite au paragraphe IV.1. Alors,

V (π_{ν}) = f + 𝔟^{⊥}.

Démonstration. Faisant ν = 0, on obtient :

π_{0}(X) = ∑_{u=1}^{\frac{d}{2}} ia_{X,u}(0)\frac{∂}{∂t_{u}} − a_{X,0}(0).

Comme l’opérateur π_{0}(X_{i}) est un opérateur aux dérivées partielles d’ordre un pour tout i ∈ e(f), on aura pour X = X_{k_{u}}, u = 1, ..., \frac{d}{2},

dπ_{0}(X_{k_{u}}) = ∑_{s=1}^{\frac{d}{2}} ia_{X_{ku} ,s}(0)\frac{∂}{∂t_{s}} − a_{X_{ku} ,0}(0) avec a_{X_{ku} ,u}(0) ≠ 0.

D’autre part, pour j ∈ e^{B}(f)\e(f), a_{X_{j},u}(0) = 0, pour tout u = 1, ..., \frac{d}{2}. Ce qui implique que

π_{0}(X_{j}) = −a_{X_{j},0}(0), pour tout j ∈ e^{B(f)}\e(f).

On en déduit alors que l’annulateur de π_{0} contient l’idéal de U(𝔤) engendré par {X_{j} + a_{X_{j},0}}, j ∈ e^{B(f)}\e(f). En outre, si X ∈ 𝔟, π_{ν}(X) est un opérateur différentiel d’ordre zéro, ce qui entraine que

π_{0}(X) = −a_{X,0}(0) = ⟨f, X⟩

d’après [Pe2] lemme 1.2.4 et nos conventions de signes pour la définition du caractère χ_{f}. Par suite, X − ⟨f, X⟩ ∈ Ker π_{0}, pour tout X ∈ 𝔟. Ce qui montre que V (π_{ν}) ⊂ f + 𝔟^{⊥}. Réciproquement, si l ∈ f + 𝔟^{⊥}, alors, pour tout X ∈ 𝔟, l(X − f(X)) = 0. Donc, l ∈ V (π_{ν}).

•

Corollaire IV.2.2. Soient 𝔤 une algèbre de Lie résoluble exponentielle, f un élément de 𝔤^{∗} et ρ = ρ_{f} ∈ Ĝ. Soit 𝔟 une polarisation de Pukanszky qui réalise ρ. Alors,

V (π_{ν}) = B.f

avec B = exp 𝔟.

IV.3. Le cas nilpotent

Dans les exemples III.1 et III.2 la variété de Poisson caractéristique coïncide avec l’orbite coadjointe. Cette propriété se généralise à toute représentation unitaire irréductible d’un groupe nilpotent : soit 𝔤 une algèbre de Lie réelle nilpotente de dimension n. Les orbites coadjointes dans 𝔤^{∗} sont toutes des sous-variétés algébriques, données par l’annulation de polynômes à valeurs réelles (Q_{j})_{j=1,...,n−2k} où 2k désigne la dimension de l’orbite. Ces orbites associées à ρ_{h̄} sont toutes les mêmes pour 𝔤_{h̄} quel que soit le paramètre h̄ réel non nul. Soit ρ_{Ω}^{h̄} la représentation unitaire irréductible du groupe simplement connexe G_{h̄} = exp 𝔤_{h̄} associée à une telle orbite Ω par la méthode de Kirillov. Elle s’obtient en choisissant un élément ξ ∈ Ω, une polarisation réelle 𝔥_{h̄} en ξ, et en induisant de H_{h̄} = exp 𝔥_{h̄} à G_{h̄} le caractère de H_{h̄} défini par :

χ_{ξ}(exp X) = e^{−iξ(X)}.

Soit τ l’isomorphisme de Duflo, qui se réduit ici à la symétrisation. D’après le théorème 2.3.2 de [Pe1] (adapté ici à nos conventions de signe dans la définition du caractère χ_{ξ}), l’annulateur de ρ_{Ω}^{h̄} dans U(𝔤_{h̄}) est l’idéal engendré par les u_{j} avec τ^{−1}(u_{j})(η) = Q_{j}(iη). En posant ν = ih̄ et en utilisant le théorème II.3.1 on voit que l’annulateur de la représentation π_{Ω}^{ν} de l’algèbre déformée A est alors engendré par les Q_{j}. L’idéal Ann π_{Ω}^{ν}/ν Ann π_{Ω}^{ν} de S(𝔤) est donc également engendré par les Q_{j}, d’où l’égalité entre l’orbite Ω et la variété de Poisson caractéristique. On a donc :

Théorème IV.3.1. Avec les notations ci-dessus,

VA(π_{Ω}^{ν}) = Ω.

Références :

[A] S. Araki, On root systems and an infinitesimal classification of irreducible symmetric spaces, J. of Math. Osaka City Univ. 13, 1-34 (1962).

[AM] M. Andler, D. Manchon, Opérateurs aux différences finies, calcul pseudo-différentiel et représentations des groupes de Lie, J. Geom. Phys. 27, 1-29 (1998).

[ABLS] D. Arnal, A. Baklouti, J. Ludwig, M. Selmi, Separation of unitary representations of exponential Lie groups, J. Lie Theory, vol. 10, 399-410 (2000).

[ABM] D. Arnal, N. Ben Amar, M. Masmoudi, Cohomology of good graphs and Kontsevich linear star products, Lett. Math. Phys. 48, 291- 306 (1999).

[AMM] D. Arnal, D. Manchon, M. Masmoudi, Choix des signes pour la formalité de M. Kontsevich, math.QA/0003003, Pac. J. Math.

[BBR] A. Baklouti, C. Benson and G. Ratcliff, Moment sets and the unitary dual of a nilpotent Lie group, J. Lie Theory, Vol 11, 135-154 (2001).

[BCD] P. Bernat, N. Conze, M. Duflo et al. Représentations des groupes de Lie résolubles, Monographies de la Soc. Math. France No 4, Dunod, Paris 1972.

[BGHHW] M. Bordemann, G. Ginot, G. Halbout, H-C. Herbig, S. Waldmann, Star-représentations sur des sous-variétés co-isotropes, math.QA/0309321 (2003).

[BW] M. Bordemann, S. Waldmann, Formal GNS construction and states in deformation quantization, Comm. Math. Phys. 195, 549-583 (1998).

[Bu-W] H. Bursztyn, S. Waldmann, ∗-ideals and formal Morita equivalence of ∗-algebras, Int. J. Math. 12 No 5, 555-577 (2001).

[B] N. Bourbaki, Algèbre commutative, Hermann, Paris 1961.

[CF1] A. Cattaneo, G. Felder, A path integral approach to the Kontsevich quantization formula, Comm. Math. Phys. 212 N3, 591-611 (2000).

[CF2] A. Cattaneo, G. Felder, Coisotropic submanifolds in Poisson geometry and branes in the Poisson sigma model, math.QA/0309180 (2003).

[CFT] A. Cattaneo, G. Felder, L. Tomassini, From local to global deformation quantization of

Poisson manifolds, math.QA/0012228 (2000).

[Di] G. Dito, Kontsevich star product on the dual of a Lie algebra, Lett. Math. Phys. 48, 307-322 (1999).

[Dix] J. Dixmier, Algèbres enveloppantes, Gautier-Villars, Paris 1974.

[D1] M. Duflo, Opérateurs différentiels bi-invariants sur un groupe de Lie, Ann. Sci. Ec. Norm. Sup. 4e série t. 10, 265-288 (1977).

[D2] M. Duflo, Sur la classification des idéaux primitifs dans l’algèbre enveloppante d’une algèbre

de Lie semi-simple, Ann. of Math. (2) 105 , no. 1, 107-120 (1977).

[EHW] T. Enright, R. Howe, N. Wallach, A classification of unitary highest weight modules, Progr.

Math. 40, 97-143,(1983).

[EK] P. Etingof, D. Kazhdan, Quantization of Lie bialgebras, I, Selecta Math. 2, 1-41 (1996).

[FS] G. Felder, B. Shoikhet, Deformation quantization with traces, math.QA/0002057.

[G] O. Gabber, The integrability of the characteristic variety, Am. J. Math. 103, No 3, 445-468

(1981).

[GM] M. Granger, Ph. Maisonobe, A basic course on differential modules, in D-modules cohérents et holonomes, les cours du CIMPA, Hermann, Paris 1993.

[Gui] V. Guinzburg, On primitive ideals, math.RT/0202079.

[H] S. Helgason, Differential geometry and symmetric spaces, Academic Press, 1962.

[J] A. Joseph, On the classification of primitive ideals in the enveloping algebra of a semisimple Lie algebra, Lect. Notes in Math. 1024 , 30-78.

[Ja] J.C. Jantzen, Einhüllende Algebren halbeinfacher Lie-Algebren, Springer (1983).

[Jak] H.P. Jakobsen, Hermitian symmetric spaces and their unitary highest weight modules, J. Funct. Anal. 52 No 3, 385-412 (1983).

[Ki] A. A. Kirillov, Elements of the Theory of Representations, Springer (1976).

[K] M. Kontsevich, Deformation quantization of Poisson manifolds I, math.QA/9709040.

[MT] D. Manchon, Ch. Torossian, Cohomologie tangente et cup-produit pour la quantification de Kontsevich, math.QA/0106205.

[Pe1] N. V. Pedersen, On the infinitesimal kernel of irreducible representations of nilpotent Lie groups, Bull. Soc. Math. France 112, 42 3-467 (1984).

[Pe2] N. V. Pedersen, On the symplectic structure of coadjoint orbits of (solvable) Lie groups and applications. I, Math. Ann. 281, 633-669 (1988).

[Sha] N.N. Shapovalov, A certain bilinear form on the universal enveloping algebra of a complex semisimple Lie algebra Funct. Anal. Appl. 6 , no. 4, 307-312 (1972).

[Sh] B. Shoikhet, Vanishing of the Kontsevich integrals of the wheels, math.QA/0007080.

[Tr] F. Treves, Topological vector spaces, distributions and kernels, Academic Press, New York (1967).

[V] P. Vanhaecke, Integrable systems in the realm of algebraic geometry, Lect. Notes in Math. No 1638, Springer (1996).

[Wa] A. Warner, Harmonic analysis on semi-simple Lie groups I, Grundlehren der mathematischen Wissenschaften No 188, Springer (1972).

[W] A. Weinstein, The local structure of Poisson manifolds, J. Diff. Geom. 18, 523-557 (1983).