CR 다양체에서 토플리츠 연산자의 분포 커널 연구

초록

본 논문은 엄격하게 가양성인 콤팩트 CR 다양체와 그 일반화인 CR 오비폴드 위에서 고전적 의사미분연산자와 결합된 토플리츠 연산자의 분포 커널을 상세히 분석한다. 핵심 결과는 커널의 위상함수와 심볼 전개에서 대각선 상의 두 번째 계수값을 전역 기하학적 양식(타나카‑웨버 곡률, 서브프린시플 심볼 등)으로 표현한 공식이다. 또한 비엄격 가양성 오비폴드에 대한 비대칭적 확장과 변형 양자화와의 연계도 제시한다.

상세 분석

논문은 먼저 임베더블하고 엄격히 가양성인 (2n+1) 차원 CR 다양체 X에 대해 Szegő 투영 Π를 정의하고, 고전적 의사미분연산자 E∈L^m_cl(X)와 결합한 토플리츠 연산자 T_E=ΠEΠ의 커널 T_E(x,y)를 연구한다. 기존의 Szegő 커널에 대한 위상함수 ϕ와 심볼 a의 전개(ϕ는 대각선에서 Imϕ≥0, d_xϕ|{x=y}=−ω_0 등) 를 바탕으로, 저자들은 ϕ와 동등한 새로운 위상함수 \hatϕ를 선택해 전역적인 정규화를 수행한다. 이 과정에서 Malgrange 준비정리를 이용해 ϕ를 표준 형태 y{2n+1}+g(x,y′) 로 정리하고, \hatϕ를 그 실현으로 잡는다.

주요 정리(Theorem 1.3)는 \hatϕ와 고전적 심볼 b̂∈S^{n+m}cl(D×D×ℝ+)에 대해
T_E(x,y)≡∫_0^∞ e^{i t \hatϕ(x,y)} b̂(x,y,t) dt (mod C^∞)
를 보이며, 특히 대각선 x=y에서 b̂_0와 b̂_1의 값이 다음과 같이 명시된다.
b̂_0(x,x)=e_0(x,−ω_0(x))/(2π)^{n+1},
b̂_1(x,x)=\frac{1}{4π^{n+1}}\Big