카르노군에서 유한 주변집합의 접선 초평면 존재성

본 논문은 카르노 군이라는 비가환, 비유클리드적인 Lie 군 위에서 ‘유한 주변집합(finite perimeter set)’이라는 개념을 심도 있게 탐구한다. 서론에서는 실해석과 기하학적 측정 이론에서의 차분가능성(differentiability)과 직사각형성(rectifiability) 문제를 소개하고, Carnot‑Carathéodory 거리 d와 수평층의 기저 X₁,…,X_m을 이용해 BV 함수와 유한 주변집합을 정의한다. 이때 X_i 1_E 가 라돈 측정으로 표현될 수 있으면, |D₁E|는 (X₁ 1_E,…,X_m 1_E) 라는 m‑벡터값 측정의 전변으로, 이는 서브리만니안 거리와 일치하는 ‘표면 측정’ 역할을 한다. 기존 연구인 Franchi‑Serapioni‑Serra Cassano는 단계 2 카르노 군에서 |D₁E|‑거의 모든 점 x에 대해 E의 접선이 유일하고 수직 반공간이라는 강력한 정리를 증명하였다. 그러나 그 결과는 단계 2에 한정되었으며, 단계 3 이상에서는 같은 방법이 통하지 않는다. 본 논문은 이러한 제한을 넘어, 임의의 단계의 카르노 군에서도 ‘접선 중 하나가 수직 반공간’이라는 존재론적 결과를 얻는다. 핵심 정리(Theorem 1.2)는 다음과 같다. E⊂G가 국소적으로 유한 주변을 갖는 집합이라면, |D₁E|‑거의 모든 점 x∈G에 대해, E의 접선 집합 Tan(E,x) 안에 적어도 하나의 수직 반공간 H가 포함된다. 여기서 수직 반공간은 좌표계 (x₁,…,x_n) 에서 수평층 변수 (x₁,…,x_m) 만을 이용해 정의되는 반평면이며, 비수평 변수는 전혀 등장하지 않는다. 정리 증명은 크게 두 부분으로 나뉜다. 첫 번째는 ‘정규 방향(regular direction)’과 ‘불변 방향(invariant direction)’이라는 개념을 도입한다. 정규 방향은 어떤 벡터장 Z에 대해 Z 1_E 가 라돈 측정으로 나타나는 경우이며, 불변 방향은 Z 1_E=0인 경우이다. Proposition 4.7에서는 불변 방향 Y에 대해 Ad exp(Y) 연산이 정규 방향을 또 다른 정규 방향으로 보존한다는 사실을 보인다. 이를 이용해, 기존의 수평층 방향 X=∑ν_i X_i (ν_i는 수평법선 성분) 외에 새로운 정규 방향 Z를 생성한다. 두 번째는 이러한 새로운 정규 방향이 접선에 미치는 영향을 분석한다. Lemma 5.8은 Z가 수평층에 성분이 없을 때, E의 접선은 Z에 대해 불변 방향을 갖게 된다는 스케일링 논증을 제공한다. 즉, δ_r (그룹의 내재적 팽창) 은 비수평 방향을 더 크게 축소하므로, 작은 스케일에서 Z가 ‘보존’되는 현상이 나타난다. 이 과정을 반복한다. 각 단계에서 새로운 불변 방향을 얻고, 이를 다시 Ad exp(·) 로 변환해 새로운 정규 방향을 만든다. Theorem 5.2는 이러한 반복을 군의 계층 깊이(즉, nilpotency step) 만큼 수행하면, 최종적으로 수직 반공간에 해당하는 접선에 도달한다는 것을 보인다. 반복된 접선이 원래 집합의 접선과 일치한다는 점은 Preiss의 측도 이론을 카르노 군에 맞게 변형한 Section 6에서 다룬다. 구체적으로, 접선 집합의 ‘밀도 일관성(density consistency)’을 이용해, 충분히 작은 반경에서 얻은 접선이 전체 스케일에서도 동일한 형태를 유지함을 증명한다. 논문은 또한 Lie 대수적 도구를 활용한다. Proposition 2.17은 단순 연결된 nilpotent Lie 군 G와 부분 대수 g′, 그리고 X∉g′가 주어지면, 적절한 k∈exp(g′)가 존재해 Ad_k(X)∉g′⊕ℝX임을 보인다. 이는 불변 방향을 통해 새로운 정규 방향을 생성하는 데 필수적인 대수적 보조정리이다. 결과적으로, 본 연구는 “접선이 존재한다”는 존재론적 진술을 넘어, 그 접선이 구체적으로 수직 반공간이라는 형태를 갖는다는 강력한 기하학적 정보를 제공한다. 다만, 모든 점에서 접선이 유일하고 전 스케일에 걸쳐 수직 반공간으로 수렴한다는 완전한 직사각형성 문제는 아직 남아 있다. 저자들은 이를 ‘단조성/안정성’ 논증이 부족함으로 규정하고, 향후 연구 방향을 제시한다.