힌트 기반 소인수분해: 인접 정수의 정보 활용

초록

이 논문은 (N=pq) 인 큰 합성수 (N) 주변 (O(N^{1/3+\varepsilon})) 개의 정수에 대한 소인수분해 정보를 미리 알고 있으면, (p)와 (q)를 (O(N^{1/3+\varepsilon})) 비트 연산으로 결정할 수 있다고 주장한다. 이를 위해 σ₁/₂ 함수와 멜린 변환, 리만 제타 함수의 함수 방정식을 이용해 복잡한 급수를 전개하고, 차분 연산을 통해 σ₁/₂(N) 값을 추정한다. 그러나 알고리즘의 구체적 구현·복잡도 분석이 부족하고, 가정 자체가 실제로는 기존 팩터링보다 더 어려운 문제를 전제로 한다는 비판이 제기된다.

상세 분석

논문은 먼저 (N=pq) 인 두 소수 (p<\sqrt N<q) 에 대해 (\sigma_{1/2}(N)=\sqrt N+1+\sqrt p+\sqrt q) 이라는 식을 도출한다. 이를 정확히 구하면 (p)와 (q)를 바로 복원할 수 있다는 점을 이용한다. 그러나 (\sigma_{1/2}(N)) 값을 얻기 위해서는 (\sum_{n\le x}\sigma_{1/2}(n)f(n/x)) 형태의 급수를 멜린 변환으로 표현하고, 리만 제타 함수 (\zeta(s)) 와 (\zeta(s-1/2)) 의 곱을 이용해 복소 적분 형태로 바꾼다. 여기서 복소 적분을 (\Re s=-1/4) 선으로 이동시키고, 잔여항을 계산해 (F_\nu(x)) 와 (P_\nu(x)) 이라는 다항식(또는 조각다항식) 형태로 정리한다.

핵심 단계는 (P_\nu(x)) 에 대해 차분 연산 (\nabla_h) 을 여러 번 적용해 (\sigma_{1/2}(N)) 을 포함하는 항을 격리시키는 것이다. 저자는 (h=N^{1/3}) 로 잡고 (\nabla^\nu_h P_\nu(x)) 를 계산하면 (\sigma_{1/2}(N)N^{(\nu-1)/3}) 과 (x) 주변 (O(N^{1/3})) 개의 (\sigma_{1/2}(n)) 값만 필요하다고 주장한다. 이때 (\sigma_{1/2}(n)) 값을 얻기 위해서는 (n) 의 소인수분해가 필요하므로, “인접 (O(N^{1/3+\varepsilon})) 개의 정수에 대한 완전한 소인수분해 정보”를 전제로 한다.

이 가정은 실질적으로 기존 최선의 확률적 알고리즘보다 더 강력한 전제이다. 즉, (N) 주변 (N^{1/3}) 개의 정수를 이미 팩터링했다면, (N) 자체를 팩터링하는 것이 크게 쉬워지는 것이 아니라, 이미 어려운 작업을 수행한 뒤에 남은 작은 연산을 수행한다는 의미가 된다. 따라서 알고리즘의 실제 복잡도는 (O(N^{1/3+\varepsilon})) 비트 연산이 아니라, 전제된 (O(N^{1/3+\varepsilon})) 개의 정수에 대한 소인수분해 비용을 포함해야 한다.

수학적 측면에서는 멜린 변환, 리만 제타 함수의 함수 방정식, 그리고 차분 연산을 결합한 기법이 흥미롭다. 하지만 급수 전개에서 발생하는 오차 추정이 충분히 엄밀하게 다루어지지 않았으며, “부분합을 트리비얼하게 계산한다”는 표현은 실제 구현 시 (O(y^{1+\varepsilon})) 시간이 소요될 수 있음을 간과한다. 또한 (\nu) 를 (2+4/3\varepsilon) 이상의 정수로 잡는 이유와 그에 따른 복잡도 상수에 대한 명시가 부족하다.

결론적으로, 논문은 이론적 아이디어를 제시했지만, 실용적인 팩터링 알고리즘으로서의 타당성은 낮으며, 기존의 (N^{1/4+\varepsilon}) 결정적 알고리즘(예: Shank’s SQUFOF)과 비교해도 실제 이득을 제공하지 않는다. 또한 “인접 정수의 팩터링 정보가 서로 연관된다”는 주장 자체가 아직 증명되지 않은 가설에 불과하다.