격자 점들의 껍질 벗기기와 볼록층 수

초록

본 논문은 n×n 정수 격자점 집합에 대해 매 반복마다 현재 집합의 볼록껍질 정점을 제거하는 “피링(peeling)” 과정을 연구한다. 저자들은 이 과정이 수행되는 전체 단계 수 τ(n)이 Θ(n^{4/3})임을 증명한다. 하한은 각 층의 최대 정점 수가 O(n^{2/3})임을 이용하고, 상한은 원시 벡터와 그에 대응하는 직선 패밀리를 활용해 활성 방향이 일정 비율 유지되는 것을 보임으로써 얻는다. 또한 비균일 격자를 구성하면 τ(n)=Ω(n^2)까지 늘어날 수 있음을 보여준다.

상세 분석

논문은 먼저 격자점 집합 G_n = {1,…,n}^2에 대해 “볼록층(convex layer)”이라는 개념을 정의한다. i번째 반복에서 현재 점 집합 P_{i-1}의 볼록껍질 C_i = CH(P_{i-1})를 구하고, 그 꼭짓점 집합 V_i를 제거해 P_i = P_{i-1}\V_i 로 만든다. 전체 반복 횟수를 τ(n)이라 두고, 이를 Θ(n^{4/3})임을 보이는 것이 목표다.

하한 증명은 기존에 알려진 “볼록다각형이 격자점만을 정점으로 가질 때 최대 정점 수는 O(n^{2/3})”라는 정리를 활용한다(Lemma 2.1). 이 정리는 격자점의 주변에 있는 정수 거리 μ를 적절히 선택해, 긴 변과 짧은 변을 각각 상한화함으로써 얻는다. 따라서 각 층에서 제거되는 정점 수 |V_i| ≤ c·n^{2/3} 이고, 전체 격자점 수 n^2 를 이 상한으로 나누면 τ(n) ≥ Ω(n^{4/3})가 된다.

상한 증명은 보다 정교한 기하학적·수론적 도구를 사용한다. 먼저 원시 정수 벡터 v = (x,y) (gcd(x,y)=1, 0≤y<x≤μ)를 모아 V_μ 라고 정의하고, |V_μ| = Ω(μ^2)임을 Lemma 2.2 로 제시한다(오일러 토션 함수 φ(x)의 합에 대한 고전적 결과). 각 v에 대해 방향이 v인 직선들의 집합 L_v 를 고려한다. 격자 G_n 안을 통과하는 이러한 직선은 최대 4n/μ 개이며, 각 직선은 격자점들을 일정 간격 ‖v‖ 만큼 배치한다.

활성(active) 방향은 현재 볼록껍질 C_i 와 L_v 가 교차하는 두 접선이 C_i 의 한 변을 따라 있을 때 정의된다. 비활성인 경우, 해당 두 접선은 꼭짓점에서만 접하고, 그 꼭짓점이 다음 단계에서 제거되므로 L_v∩C_{i+1} 의 크기가 두 개 감소한다(Claim 2.4). 따라서 한 방향 v가 비활성인 횟수는 |L_v|/2 ≤ 2n/μ 번으로 제한된다(Claim 2.5).

전체 과정이 M = 4nμ 번 이상 지속된다 가정하면, 모든 v∈V_μ 가 절반 이상 활성 상태가 된다. 활성 방향의 수 n_i 가 많을수록 현재 볼록껍질 C_i 의 변(즉, 정점) 수는 최소 2n_i 개가 된다. μ를 Θ(n^{1/3}) 로 잡으면, M = Θ(n^{4/3}) 단계 안에 전체 격자점이 소진되어야 함을 보인다. 이는 τ(n) ≤ O(n^{4/3}) 를 의미한다.

하한과 상한이 일치하므로 τ(n)=Θ(n^{4/3}) 가 증명된다. 마지막으로, 격자점을 비균일하게 배치한 예시(M 집합)를 제시해 피링 과정이 Ω(n^2) 단계까지 필요할 수 있음을 보인다. 이 예시는 서로 다른 크기의 정사각형을 원점에 겹치게 배치하고, 그 교차점들을 점 집합으로 만든다. 각 층이 최대 8개의 점만 포함하므로 전체 단계 수는 n^2/8 수준이 된다.

핵심 통찰은 (1) 격자점의 볼록다각형 정점 수 상한이 n^{2/3}이라는 고전적 결과, (2) 원시 벡터와 그에 대응하는 직선 패밀리를 이용해 각 단계에서 최소한 일정 수의 정점이 제거된다는 점, (3) 활성/비활성 방향 개념을 통해 전체 단계 수를 전역적으로 제한할 수 있다는 점이다. 이러한 접근법은 무작위 점 집합에 대한 기존 결과와도 일치하지만, 격자 구조 특수성을 이용해 새로운 증명을 제공한다.