기울어진 하이퍼플레인에서 최대 연산자 경계의 불안정성

초록

두 단계 닐포텐트 군에서, 자동 팽창에 대해 불변이 아닌 기울어진 하이퍼플레인 H에 대한 구면 평균 최대 연산자 M₍Λ₎는 메티비에 군에서는 작은 기울기 Λ에 대해 Lᵖ 유계가 유지되지만, 일반적인 두 단계 군에서는 그렇지 않다. 저자는 새로운 필요조건 p > (r+1)/r을 제시하고, r=1인 경우에는 Lᵖ 유계가 오직 p=∞에서만 가능함을 보인다.

상세 분석

이 논문은 두 단계 닐포텐트 군 G = 𝔤₁⊕𝔤₂(𝔤₂는 중심) 위에 정의된 최대 연산자 M₍Λ₎의 Lᵖ-유계성을 조사한다. 기존 연구에서는 𝔤₁ 전체에 대한 구면 평균(Λ=0) 경우, 차원 d≥3에 대해 p>d/(d‑1)이면 유계가 성립함이 알려져 있다. 특히 메티비에 군(모든 비영 ϑ∈𝔤₂*에 대해 J_ϑ가 전단사)에서는 작은 선형 변형 Λ에 대해서도 동일한 p-범위가 유지된다는 ‘안정성’ 결과가 있다.

저자는 이 안정성이 일반 두 단계 군에서는 깨진다는 점을 증명한다. 핵심 아이디어는 ‘기울어진’ 하이퍼플레인 H={ (X,Λ(X)) | X∈𝔤₁ }를 고려하고, 이를 𝔤₁의 k‑차원 매끄러운 부분다양체 Σ와 결합해 일반화된 측도 μ_t를 정의한다. 가정 H(r)에서는 어떤 ϑ∈𝔤₂*와 ω₀∈Σ가 존재해

1. ϑ∘Λ≠0,
2. V_{Λ,ϑ}=range(J_ϑ)+ℝ(ϑ∘Λ)와 T_{ω₀}Σ의 정규공간이 교차하지 않으며,
3. dim V_{Λ,ϑ}=r.

이때 r은 1≤r≤k이며, V_{Λ,ϑ}는 J_ϑ와 Λ가 만든 선형 공간이다. 저자는 먼저 m>1인 경우를 회전과 스케일링을 통해 m=1(즉, 𝔤₂가 1차원)으로 환원한다. 이후 J와 λ(Λ의 선형 부분)를 이용해 S=Jᵗλ를 정의하고, r=rank Sᵗ이다.

주요 증명은 Nikodym 집합을 이용한 하위집합 구성이다. Σ 근처에서 매개변수화된 곡면을 선택하고, Π를 Sᵗ의 영공간에 대한 직교 사영으로 두어 Π(x‑tω)=0을 만족하는 ω를 찾는다. 이때 ω는 δ‑폭의 ‘두께’를 갖는 집합 W_δ(x,t) 안에 존재하고, 그 표면측정은 ≳δʳ이다. 그런 ω와 적절히 선택한 t(x) (주로 t≈x_{d+1}/(λ·x))에 대해 A_t g(x)≥c δʳ가 된다. 여기서 g는 작은 직육면 R_δ 위에서 정의된 특성함수이다. Lᵖ-노름을 계산하면 ∥M_I g∥_p ≳δ^{r‑(r+1)/p}가 되며, δ→0이면 p≤(r+1)/r에서는 유계가 불가능함을 얻는다.

r=1인 경우는 J=0이므로 상황이 더 단순해진다. 저자는 μ가 λ에 수직인 초평면에 전혀 놓여 있지 않다면, 최대 연산자는 모든 유한 p에 대해 무한히 커진다. 이를 보이기 위해 μ를 포함하는 방향을 따라 무한히 긴 ‘슬라이스’를 만든 뒤, 특성함수들의 합을 이용해 L^{(r+1)/r}=L^∞에서만 유계가 가능함을 증명한다.

결과적으로, 메티비에 군에서는 r=d (J_ϑ가 전단사)이므로 (r+1)/r = (d+1)/d < d/(d‑1)와 일치해 기존 안정성 결과와 부합한다. 그러나 일반 두 단계 군에서는 r이 d보다 작을 수 있어 (r+1)/r이 더 큰 값이 되며, 작은 Λ라도 Lᵖ-유계가 깨질 수 있다. 저자는 또한 곡면 Σ가 볼록하고 곡률이 비소실인 경우 r≤d‑2에 대한 상한 결과를 향후 연구로 제시한다.

이 논문은 기존의 ‘구면 평균 최대 연산자’ 이론을 기울어진 경우까지 확장하면서, 구조적 비대칭성(메티비에가 아닌 경우)이 어떻게 핵심적인 차원을 감소시켜 필요한 p-조건을 강화하는지를 명확히 보여준다.