수체 정규형을 다항시간에 구하는 새로운 모듈러 알고리즘

초록

본 논문은 수체 K의 정수환 𝒪_K 위에 정의된 모듈의 Hermite Normal Form(HNF)을 다항시간 안에 계산할 수 있는 알고리즘을 제시한다. 기존 Cohen의 모듈러 전략에서 발생하던 계수 폭발 문제를 새로운 정규화 기법과 정밀 복구 절차로 억제하고, 입력 크기와 K의 불변량에 대한 복잡도 상한을 엄밀히 증명한다.

상세 분석

논문은 먼저 𝒪_K‑모듈의 HNF 계산이 정수선형대수에서의 HNF와 유사하지만, 기본적인 차이점은 𝒪_K가 비유클리드 영역이며, 사영(ideal) 구조와 사영 사상에 의해 계수가 급격히 커질 수 있다는 점이다. Cohen이 제안한 모듈러 접근법은 큰 소수 p에 대해 모듈러 사영을 취하고, 그 결과를 CRT(중국 나머지 정리)로 결합하는 방식으로 계수 폭을 억제하려 했지만, 사영의 정규화 과정에서 발생하는 “계수 폭발”을 완전히 방지하지 못했다. 저자들은 이 문제를 두 단계로 해결한다. 첫 번째는 사영을 선택할 때, 사영의 노름이 입력 모듈의 사영 지수와 비교해 충분히 작도록 하는 ‘크기 제한 사영 선택’ 전략이다. 이를 위해 사영의 정규 형태와 사영 지수의 상한을 이용해 사영 집합을 사전에 제한한다. 두 번째는 모듈러 연산 후 복구 단계에서, 사영의 역원과 사영 곱셈을 고정밀 정수 연산으로 대체하고, 사영의 정규화(즉, 사영을 𝒪_K‑기준으로 정규화) 과정을 반복 적용한다. 이 과정에서 사영의 곱셈에 의해 발생하는 계수 증가를 사영의 정규화와 사영 분해를 통해 지속적으로 억제한다.

복잡도 분석에서는 입력 모듈 M을 생성하는 행렬 A∈𝒪_K^{m×n}의 비트 길이 L과, K의 차원 d, 판별식 Δ_K, 그리고 사영의 최소 규격 N을 주요 파라미터로 설정한다. 저자들은 사영 선택 단계에서 필요한 사영의 수가 O(log N)이며, 각 사영에 대한 모듈러 연산이 다항시간 Õ(d^3 · L) 내에 수행된다고 증명한다. 복구 단계는 CRT와 사영 정규화가 결합된 형태로, 전체 복구 비용은 Õ(d^4 · L · log Δ_K) 이하로 제한된다. 따라서 전체 알고리즘의 시간 복잡도는 Õ(d^5 · L · log Δ_K · log N)으로, 입력 크기에 대해 다항시간임을 보인다.

이러한 결과는 기존에 “다항시간이 가능하다는 추측만 있었고, 증명은 없었다”는 Cohen의 주장에 대한 첫 번째 완전한 증명으로 평가될 수 있다. 또한, 사영 정규화와 크기 제한 사영 선택이라는 두 핵심 아이디어는 다른 수체 알고리즘, 예를 들어 사영 기반 LLL이나 사영 사전 계산에도 적용 가능성을 시사한다.