A 격자에서 가장 가까운 점을 찾는 새로운 O(n log n) 알고리즘

본 논문은 저차원에서 최적의 피복 반경을 제공하는 격자 Aₙ* 의 최근접점 문제를 효율적으로 해결하는 새로운 알고리즘을 제안한다. 서론에서는 격자 이론이 수론, 기하학, 신호 처리 등 다양한 분야에 응용되는 배경을 설명하고, 기존 연구들을 정리한다. 특히, Conway·Sloane가 제시한 O(n² log n) 알고리즘, 이후 개선된 O(n²) 알고리즘, 그리고 Clarkson이 발표한 O(n log n) 알고리즘을 언급하며, 현재까지 가장 효율적인 방법이 Clarkson의 것임을 밝힌다. 그러나 그 알고리즘은 복잡한 수학적 전개와 두 번의 정렬 과정을 필요로 하여 구현과 검증이 까다롭다. 제2장에서는 기본적인 기호와 정의를 제시한다. 벡터와 행렬 표기법, 전치, 단위벡터 e_i, 전부 1인 벡터 1, 그리고 Voronoi 영역의 개념을 소개한다. 격자 Aₙ* 은 (n+1)차원 정수 격자 ℤⁿ⁺¹ 을 1에 수직인 초평면으로 투사한 집합으로 정의되며, 투사 행렬 Q = I – (1 1ᵀ)/(n+1) 을 사용한다. 순열 행렬 Π와 Q가 교환한다는 Lemma 1을 증명하고, 이를 통해 격자 점과 입력 벡터에 대한 순열 변환이 거리 최소화 문제에 영향을 주지 않음을 보인다. 제3장에서는 최근접점 존재 조건을 다루는 Lemma 2를 제시한다. Aₙ* 내의 최근접점 x = Qk 가 존재하려면, 어떤 실수 λ 에 대해 정수 격자 ℤⁿ⁺¹ 의 점 k 가 y + λ·1 에 가장 가까워야 함을 보인다. 여기서 f(λ) = ⟨y + λ·1⟩ (각 원소를 가장 가까운 정수로 반올림) 로 정의된 함수는 λ가 1만큼 변하면 f(λ)도 1만큼 변하고, Q f(λ)는 동일한 격자점이 된다. 따라서 λ를