특수군 자동동형의 성장과 구조

초록

이 논문은 가상 특수군(virtually special groups)의 외부 자동동형(outer automorphisms)의 성장 속도를 조사한다. 자동동형은 다항식 성장 또는 지수 성장만을 보이며, 지수 성장률은 약 페르론 수인 대수정수이다. 특히, 중간 성장(다항식보다 빠르고 지수보다 느린) 현상은 나타나지 않는다. 코스미드-미디언을 보존하는 자동동형에 대해서는 성장률이 유한하게 제한되고, 이를 표면 사상에 대한 Nielsen‑Thurston 분해와 유사한 구조로 설명한다. 또한 특수군에 대한 중심자(centraliser) 기반 JSJ 분해와 접근성 결과를 얻어, Out(G)의 경계 친화성, Tits 대안, 유한 가상 코호몰로지 차원 등을 증명한다.

상세 분석

본 연구는 Haglund‑Wise가 정의한 가상 특수군이라는 넓은 비양의 곡률 그룹 클래스에서 외부 자동동형 φ∈Out(G)의 반복 적용에 따른 원소 길이 ‖φⁿ(g)‖의 성장 양상을 정밀히 분석한다. 길이 개념은 고정된 유한 생성집합에 대한 공액 길이(conjugacy length)로 정의되며, 이는 컴팩트 리만 다양체의 경우 가장 짧은 폐곡선 길이와 동등하게 해석된다. 저자는 먼저 성장률을 두 종류, 즉 다항식 성장과 지수 성장으로 구분하고, 지수 성장의 경우 스트레치 팩터 str(φ)=sup₍g₎ lim supₙ ‖φⁿ(g)‖¹⁄ⁿ이 약 페르론 수임을 보인다. 이는 λ≥1인 대수정수 λ가 모든 Galois 켤레보다 절대값이 크거나 같은 경우를 의미한다. 특히 str(φ)=1이면 φ는 다항식 성장만을 보이며, str(φ)>1이면 그 성장률은 표면 군, 자유 곱, 혹은 자유 아벨리안 직적 요인(free‑abelian direct factor)을 포함하는 하위군에서 실현된다. 이는 기존의 자유군, 표면군, 그리고 GLₙ(ℤ)에서의 성장 이론과 완벽히 일치한다.

다음 단계에서는 코스미드‑미디언 보존 자동동형, 즉 “untwisted”라 불리는 RAAG 자동동형을 대상으로 한다. 이러한 φ에 대해 성장률 집합 {λ₁,…,λₘ}이 유한하고, 각 λᵢ에 대해 최대 다항식 차수 P가 존재한다는 것을 증명한다. 구체적으로, 임의의 g∈G에 대해 ‖φⁿ(g)‖는 nᵖ·λᵢⁿ 형태와 bi‑Lipschitz 동등하거나, 최악의 경우 nᴾ 이하로 제한된다. 더 나아가, 같은 성장률을 공유하는 원소들의 집합을 포함하는 최대 서브그룹 K는 G‑공변(quasi‑convex)이며, 이러한 K들의 G‑공변 동형류는 유한 개만 존재한다. 이는 Nielsen‑Thurston 분해에서 “느린” 부분을 담당하는 보존 가능한 서브서피스와 유사한 구조를 제공한다.

핵심 기술은 중심자(centraliser) 위의 JSJ 분해를 새롭게 구축한 것이다. 특수군 G는 “singular subgroup”이라 부르는, 가상적으로 직적 분해가 가능한 최대 하위군들의 집합 S(G)를 갖는다. 저자는 G가 1‑ended일 때, Aut(G)‑불변의 그래프‑오브‑그룹 분해를 만들고, 각 엣지는 중심자 혹은 순환군, 각 정점은 (a) 트리처럼 매달린 하위군 또는 (b) 모든 중심자 위의 분해에 대해 타원형인 quasi‑convex “rigid” 군으로 구분한다. 이 분해는 기존의 하이퍼볼릭 군에 대한 JSJ와 달리 중심자라는 비슬렌더(subgroup) 위에서 작동하며, 자동동형이 정점 군을 보존할 때 성장률을 하위 군으로 귀환시켜 귀납적으로 분석할 수 있게 한다. 특히, “rigid” 정점 군에 대한 자동동형은 그 성장률이 더 낮은 복잡도의 singular subgroup에서 실현된다는 점을 이용해, 최종적으로 표면 군·자유 곱·자유 아벨리안 직적 요인으로 귀환한다.

또한 접근성 정리(Theorem E)를 증명하여, 중심자 위의 그래프‑오브‑그룹 분해는 에지 수가 전역적으로 제한된다는 사실을 확보한다. 이를 통해 Out(G)의 경계 친화성(boundary amenability), 가상 무한 차원 없음, Tits 대안, Baumslag‑Solitar 서브그룹 배제 등 다양한 대수적·위상적 성질을 도출한다. 특히, Out(G)의 경계 친화성은 Novikov 고차 서명 추측을 만족함을 의미한다.

전체적으로 이 논문은 비양의 곡률을 갖는 특수군에서 자동동형의 성장 현상을 완전히 제어하고, 이를 위한 새로운 JSJ·접근성·코스미드‑미디언 보존 기법을 제시함으로써, 자유군·표면군·RAAG와 같은 고전적인 사례를 일반화하고, 기존의 하이퍼볼릭 이론이 적용되지 못하던 영역을 성공적으로 확장한다.