효율적인 이차 격자 열거 알고리즘

초록

본 논문은 주어진 차수와 행렬식에 대해 모든 이차 격자(정수형) 동형류를 완전히 열거하는 새로운 알고리즘을 제시한다. 기존의 Kirschmer‑Brandhorst, Hanke, Dubey‑Holenstein 방법들의 복잡도를 분석하고, 개선된 최대 겹격자와 국소 수정 절차를 도입해 실행 시간을 크게 단축하였다. 구현 코드는 공개 저장소에 제공된다.

상세 분석

이 논문은 정수 이차 격자(lattice)의 동형류를 차수 (n)과 행렬식 (D)가 고정된 상황에서 완전히 열거하는 알고리즘을 설계하고, 그 복잡도를 정밀히 분석한다. 핵심 아이디어는 ‘속(genus) 기호’를 이용해 전역적인 분류를 수행한 뒤, 각 속에 속하는 격자를 실제로 구성하는 것이다. 속 기호는 모든 유한 소수와 무한소(실수) 자리에서의 로컬 동형 정보를 집합적으로 기록하므로, 속 기호를 생성하는 단계와 해당 속에 속하는 대표 격자를 찾는 단계로 문제를 분할한다.

첫 번째 단계에서는 Kirschmer의 알고리즘을 기반으로, 주어진 (n)과 (D)에 대해 가능한 모든 속 기호를 효율적으로 나열한다. 여기서는 (\omega(D)) (서로 다른 소인수의 개수)와 (\Omega(D)) (소인수의 총 개수)와 같은 산술 함수가 복잡도에 직접 등장한다.

두 번째 단계가 논문의 핵심이다. 저자들은 Brandhorst가 SageMath에 구현한 기존 절차를 재검토하고, 두 가지 주요 서브루틴을 개선한다. 첫 번째 서브루틴은 ‘최대 겹격자(maximal overlattice)’를 찾는 것으로, 기존 방법은 (O(n^3\log D)) 정도의 복잡도를 보였지만, Han(2013)의 알고리즘을 도입함으로써 (O(n^3\log D\log\log D)) 수준으로 낮춘다. 두 번째 서브루틴은 특정 소수 (p)에 대해 로컬 격자 (L_p)를 원하는 Gram 행렬 (G_p)와 일치시키는 ‘국소 수정(local modification)’이다. 여기서는 p‑adic 근사와 Hanke의 p‑neighbor 기법을 결합해, 각 소수마다 (O(\log \nu_p(D))) 시간 안에 수정이 가능하도록 설계하였다.

복잡도 분석에서는 두 서브루틴의 비용을 합산해 전체 알고리즘의 실행 시간을 추정한다. 정리 1.1에 따르면, 입력 조건 (\log D \ll n) 하에서 알고리즘은
\