점진적 부분 격자 축소와 다항식 인수분해 새로운 복잡도

초록

본 논문은 일반화된 배낭형 구조를 가진 격자 기저에 대해 목표 벡터가 길이 상한을 갖는 경우, 입력 벡터의 비트 길이에 대한 의존성을 목표 벡터 상한으로 대체하는 점진적 부분 격자 축소 알고리즘을 제안한다. 이를 통해 기존 부동소수점 LLL의 2차 복잡도 대비 선형 시간 복잡도를 달성하고, 정수 계수 일변다항식 인수분해와 대수적 수 복원 문제에 최초로 1984년 이후 새로운 복잡도 상한을 제공한다.

상세 분석

논문은 먼저 “일반화된 배낭형(knapsack‑type) 격자”라는 특수한 구조를 정의한다. 이러한 격자는 기저 행렬이 대부분 대각선 형태이며, 몇몇 열에만 작은 정수 계수가 삽입된 형태로, 전통적인 LLL 알고리즘이 적용될 경우 입력 벡터의 비트 길이 (B)에 대해 (O(B^2))의 부동소수점 연산이 필요하다. 저자들은 이 구조적 특성을 활용해 “점진적 부분 격자 축소(gradual sub‑lattice reduction)”라는 새로운 절차를 고안한다. 핵심 아이디어는 전체 격자를 한 번에 축소하는 대신, 목표 벡터의 길이 상한 (L)에 의해 정의된 작은 부분 격자들을 순차적으로 선택·축소하고, 각 단계에서 얻어진 짧은 벡터를 다음 단계의 초기값으로 재사용하는 것이다.

이 과정에서 사용되는 주요 수학적 도구는 다음과 같다.

1. 그람‑슈미트 정규화: 각 단계마다 현재 부분 격자의 기저를 직교화하여 길이와 각도를 정확히 파악한다.
2. 크기 감소(size reduction): 부분 격자 내에서 베르트라미(베르트라미) 계수를 최소화해 벡터 간 상관관계를 낮춘다.
3. 상한 기반 정지 조건: 목표 벡터가 (L) 이하의 길이를 보장하면 더 이상의 축소를 중단한다.

이러한 설계는 복잡도 분석에서 두 가지 중요한 개선을 만든다. 첫째, 입력 행렬의 비트 길이 (B)에 대한 의존성을 거의 제거하고, 대신 목표 상한 (L)에 대한 로그 항만 남긴다. 즉, 전체 알고리즘의 시간 복잡도는 (O(n \cdot \log B + n \cdot \log L)) 수준으로, 기존 부동소수점 LLL의 (O(n^2 B^2))에 비해 선형에 가깝다. 둘째, 부분 격자를 점진적으로 축소함으로써 메모리 사용량도 크게 감소한다.

논문은 이 알고리즘을 두 가지 응용 분야에 적용한다. 첫 번째는 정수 계수 일변다항식 인수분해이다. 전통적인 Lenstra‑Lenstra‑Lovász(L L L) 기반 인수분해는 1984년 이후 복잡도 개선이 없었으며, 입력 다항식의 계수 비트 길이 (B)와 차수 (d)에 대해 (O(d^5 B^2)) 정도가 소요된다. 저자들은 점진적 부분 격자 축소를 이용해 차수와 계수 비트 길이에 대한 의존성을 각각 (O(d^3))와 (O(B))로 낮추어, 최종 복잡도를 (O(d^3 B)) 수준으로 끌어올렸다. 이는 차수와 계수 크기가 모두 큰 경우 실질적인 시간 절감 효과를 제공한다.

두 번째 응용은 대수적 수 복원이다. 여기서는 근사값으로 주어진 실수(또는 복소수)와 그 최소 다항식의 계수 상한을 이용해 정확한 대수적 수를 복원한다. 기존 방법은 목표 다항식의 계수 상한 (H)와 입력 근사값의 정밀도 (P)에 대해 (O(H^2 P)) 정도의 복잡도를 가진다. 점진적 부분 격자 축소를 적용하면 복잡도가 (O(H P))로 감소한다.

이와 같이 논문은 격자 구조의 특수성을 활용해 전통적인 LLL 기반 알고리즘의 비효율성을 극복하고, 실용적인 응용 분야에서 최초의 복잡도 개선을 입증한다. 또한, 알고리즘 자체가 비교적 단순한 선형 연산과 그람‑슈미트 정규화에 기반하므로 구현이 용이하고, 고정밀 부동소수점 연산에 대한 의존도가 낮아 실제 소프트웨어 라이브러리에도 바로 적용 가능하다.