Local rigidity of certain actions of solvable groups on the boundaries of rank-one symmetric spaces

概要

有限生成群 Γ のコンパクト多様体 M への滑らかな作用, 即ち群準同型 ρ : Γ → Diff(M ) が与えられた時にその摂動の全てを記述することができるか, という問題を考える. M 上の恒等写像の摂動 h ∈ Diff(M ) をとると, 共役 hρh−1 は ρ の自明な摂動である. 本論文では特に, ρ の摂動がこのような自明なものに限る時について論じる.
定義. 群作用 ρ ∈ Hom(Γ, Diff(M )) の近傍 U を, U の各元 ρ’が ρ に共役となるように取れるとき, ρ は局所剛性を持つという.

ここで, ある r (1 ≤ r ≤ ∞) を固定することで Diff(M ) に Cr 位相を入れ, Hom(Γ, Diff(M ))には固定された Γ の有限生成系上の収束による位相を考えた. この位相は Γ の有限生成系の取り方に依存しない. また, r の値については, 記述の簡略化のため以下では時に省略するものとする.

Zimmer は特に Γ が高階リー群の格子の時, いわゆる格子の剛性問題の非線形版としてこのような群作用の剛性問題を提起した [11]. 高階格子の作用の局所剛性と深い関わりを持つのが, 高階可換群 Zn (n ≥ 2) の双曲的作用の局所剛性である. 実際, いくつかの主要な高階格子作用 ([6], [7])について, その局所剛性の証明には高階可換群作用の局所剛性が直接使われた. さらに最近では, 高階可換群の双曲的作用のある種の剛性定理が, Zimmer の掲げた予想の一つである高階格子作用の大域的剛性問題（つまり Hom(Γ, Diff(M )) 全体の構造についての問題）の解決のきっかけになった [4] ことも興味深い.

一方で, 高階可換群の双曲的作用の局所剛性は, 古典的な双曲力学系における安定性の概念の特別な場合としての側面も持つ. より詳しく述べると, 双曲力学系, 即ち群 Z の双曲的作用についてはその C1 摂動が元々の作用と位相共役であることが知られているが, この共役の滑らかさは期待できない. これとは対照的に, 高階可換群というより大きな群の作用について, この共役の滑らかさを主張するのが局所剛性である.

本論文の主結果は, この種の現象の新たな例と言える. より具体的には, ある非可換な可解群の作用の局所剛性である. このような群の作用の局所剛性の先行研究としては, 特に Burslem と Wilkinson による, 可解 Baumslag-Solitar 群の S1 への作用の局所剛性 [2], およびその高次元版として, 浅岡によって, ある可解群の Sn (n ≥ 2) への作用のある種の局所剛性 [1] が知られていた.本論文の主定理は [1] の結果の一般化であるため, まず以下に主定理を正確に述べることにする.

階数１の非コンパクト型対称空間をとって, G をその向きを保つ等長変換群とする. このとき Gは連結で, 実階数１の実単純群である. G の岩澤分解 G = KAN を固定する.
定義. Λ を N の格子とし, a を A の非自明な元で aΛa−1 ⊂ Λ を満たすものとする. このような aと Λ の生成する G の部分群 Γ を標準的部分群と呼ぶ.

K の元のうち, A の全ての元と可換な元のなす部分群を M で表す. このとき, 群 P = MAN はG の極小放物型部分群であり, 特に等質空間 G/P はある次元の球面に微分同相である. 群 G の等質空間 G/P への左からの掛け算による作用を l : G → Diff(G/P ) で表すことにする.
主定理. G をある階数１の非コンパクト型対称空間の, 向きを保つ等長変換群とする. ただし, G ̸= PSL(2, R) を仮定する. 岩沢分解 G = KAN を固定して, 標準的部分群 Γ ⊂ AN と放物型部分群 P = MAN, さらに Γ の G/P への作用 l|Γ : Γ → Diff(G/P ) を考える. また, Diff(G/P )には C2 位相を入れる. この時, Γ の G/P への C∞ 作用 ρ が l|Γ に十分近ければ, Γ の G への埋め込み ι で, 次を満たすものが存在する. 像 ι(Γ) は G の標準的部分群であり, ρ と l ◦ ι はHom(Γ, G/P ) の元として共役である.

つまり主定理は, 「Γ の G への埋め込みの取り換えは許す局所剛性」と言える. 主定理において G = SO0(n, 1) (n ≥ 3) の時がちょうど [1] に対応する. また, G = PSL(2, R) の場合は統一的に扱うことが困難な場面があったため除いたが, 同様の主張は [2] から直ちに従う. G = SU(n, 1) (n ≥ 3) の場合に Diff(G/P ) に C3 位相を考えたものが [8] である.

本論文では, 特に G = Sp(n, 1), F−20 の時, 包含写像 Γ → G が局所剛性を持つことを示した.これにより次を得た.
系. G = Sp(n, 1), F−20 のとき, l|Γ : Γ → Diff(G/P ) は局所剛性を持つ.

主定理の証明においては, [2], [1] においてそうであったように, 群作用 l|Γ の共通固定点が重要な役割を果たす. 標準的部分群は, その定義から明らかに P に含まれる. 従って点 o = eP ∈ G/Pは l(Γ) の各元の固定点となっている. 共通固定点 o についてはその安定性（即ち, l|Γ の摂動についての共通固定点の存在）が, Stowe の結果を適用することにより直ちに得られる. 従って問題となるのは, l|Γ とその摂動の間の, それぞれの共通固定点の近傍での共役の存在である. 実際, そのような共役が存在すれば, それを G/P 全体に拡張できることは [1] と同様の議論で確かめられる.

このような一点の近傍の共役の存在問題は, Sternberg による双曲固定点の標準形の理論の一般化とみなせる. 原点 0 ∈ Rn を固定するような原点の近傍の微分同相の, 原点における芽のなす群を G(Rn, 0) で表す. Sternberg の理論で重要なのは, 群 G(Rn, 0) の双曲的元の共役類は, その原点 0 ∈ Rn におけるある低階の微分で決まるということである.

主定理の設定の下では, l(Γ ∩ A) の元について o ∈ G/P は双曲的固定点であり, 作用を摂動してもやはり点 o は Γ ∩ A の作用の双曲的固定点である. ここに Sternberg の理論を適用し, さらに Γ の群構造を詳しく見ることによって, l|Γ の摂動について, その共役類は点 o における三階までの微分のみに依存することが示される. 最終的に, 主定理は Γ から群 J 3(G/P, o) へのある準同型の局所剛性問題に帰着する. ここで, J 3(G/P, o) は点 o ∈ G/P を固定するような o の近傍の微分同相の, o における 3 ジェットのなす群である. 群 Γ から有限次元リー群 J 3(G/P, o) への準同型の局所剛性問題は, あるリー代数の一次コホモロジーの計算に帰着される. この計算には特に
Casselman-Osborne の結果 [3] を用いる.