다항식 인수분해와 회로 복합도: 새로운 닐슨 반복법과 균일 폐쇄성

초록

본 논문은 뉴턴 반복법을 행렬 형태로 확장한 allRootsNI 알고리즘을 제시하고, 이를 이용해 고차 다항식의 모든 근을 멱급수로 동시에 구한다. 이 기법을 통해 회로 크기 s와 제곱자유 부분의 차수가 d인 다항식 f의 모든 인수는 크기 poly(s+d)인 회로로 표현 가능함을 보인다. 또한, VF, VBP, VNP 등 주요 알제브라 회로 클래스가 인수분해에 대해 균일하게 폐쇄됨을, 무작위 다항식 변환과 결합한 다항식‑시간 알고리즘으로 증명한다.

상세 분석

이 논문은 350년 전부터 사용된 뉴턴 반복법(Newton iteration, NI)을 다변수 다항식의 모든 근을 동시에 근사하는 행렬 재귀식인 allRootsNI(모든 근 NI)로 일반화한다. 기존 NI는 단일 단순근을 빠르게 수렴시키지만, 다중근이나 높은 차수의 경우에는 직접 적용이 어려웠다. 저자들은 “근의 멱급수 전개”라는 관점을 도입해, 근을 무한급수 형태로 표현하고, 이들 급수를 동시에 업데이트하는 선형 시스템을 r(근의 개수) 차원에서 풀어낸다. 핵심은 (1) 근의 다중성을 미리 알고 있다는 가정 하에, 각 근에 대한 초기값을 임의의 선형 변환 τ를 통해 일반 위치에 놓고, (2) 각 단계에서 Jacobian 행렬을 이용해 선형 근사값을 갱신함으로써 수렴을 보장한다는 점이다.

이 과정에서 얻은 중요한 부수 결과는 “무작위 선형 변환 아래 다항식은 완전히 멱급수 근을 통해 인수분해된다”는 것이다. 즉, τ를 적용한 뒤 f(τ·x)를 전개하면, 각 인수는 (x‑변수에 대한) 멱급수 형태로 명시적으로 분해되며, 이 멱급수는 회로 복합도 분석에 적합한 형태를 가진다.

회로 복합도 측면에서 저자들은 다음과 같은 정량적 경계를 증명한다.

• Theorem 1: f = u₀·u₁ 라고 할 때, size(f)+size(u₀) ≤ s이면 u₁의 모든 인수는 크기 poly(s + deg(rad(u₁)))인 회로로 구현 가능하다. 여기서 rad(u₁)는 u₁의 제곱자유 부분이다. 이는 기존 Kaltofen의 결과가 고차(지수 차수) 상황에서 실패하던 점을 극복한다.
• Theorem 2: f를 size s인 회로로 계산할 수 있으면, f의 임의의 차수 d 인수는 A/B (mod x_i^{d+1}) 형태로 표현될 수 있으며, A와 B는 각각 size poly(s·d)인 회로를 가진다. 이는 비가역적 나눗셈을 포함하더라도 인수의 복합도를 제어할 수 있음을 보여준다.

특히, 제곱자유 부분의 차수가 낮은 경우(예: deg(rad(f)) = O(poly(n)))에는 인수 자체가 동일 차수 이하의 “쉽게 다룰 수 있는” 회로로 변환된다. 이 결과는 “hard polynomial ⇒ 모든 비영인수도 hard”라는 강력한 난이도 전이 원리를 제공한다.

클래스 폐쇄성 측면에서는 VF, VBP, VNP 각각에 대해 Theorem 3을 증명한다. 이 정리는 다음을 의미한다.

1. VF(n log n), VBP(n log n), VNP(n log n) 은 인수분해에 대해 균일하게 폐쇄된다.
2. 입력이 n^{O(log n)} 크기의 공식(또는 ABP)이고 차수가 poly(n)인 경우, 무작위 다항식‑시간(poly(n log n)) 알고리즘으로 비자명 인수를 같은 복합도 수준의 공식(또는 ABP)으로 출력한다.

알고리즘은 (i) 입력 다항식을 무작위 선형 변환 τ로 이동, (ii) allRootsNI를 이용해 멱급수 근들을 구하고, (iii) 이 근들을 이용해 인수의 계수를 선형 시스템으로 복원하는 3단계로 구성된다. 복원 과정에서 사용되는 선형 시스템의 차원은 인수의 개수 r에 비례하므로, r이 다항식 수준이면 전체 복잡도는 poly(n log n)으로 유지된다.

또한, 저자들은 이 기법이 기존 Kaltofen‑Hensel 방식과 달리 고차 다항식에서도 “계수 추출” 문제를 #P‑hard 영역으로 빠지지 않게 만든다는 점을 강조한다. 실제 구현에서는 특성 0의 대수적으로 닫힌 체(ℂ, ℚ, ℚ_p 등)에서 동작함을 보이며, 유한체나 실수체에서도 차수 제한 조건을 만족하면 동일한 결과를 얻을 수 있다(섹션 5).

결론적으로, 본 연구는 (1) 고차 다항식의 모든 근을 효율적으로 구하는 새로운 수치‑대수적 도구를 제공하고, (2) 주요 알제브라 회로 클래스들의 인수분해 폐쇄성을 균일하게 증명함으로써, 회로 복합도와 하드니스 전이 연구에 새로운 길을 연다. 앞으로의 과제로는 (a) 비가역적 나눗셈 연산을 완전히 제거하는 방법, (b) 제곱자유 부분의 차수가 큰 경우에도 폴리노미얼 복합도를 유지하는 일반화, (c) PIT와의 직접적인 연결 고리 구축이 있다.