새로운 저복잡도 결정론적 소수 판정법 명시·암시 비제곱 잔여 활용

초록

본 논문은 명시적·암시적 비제곱 잔여(QNR)를 이용해 소수 판정의 복잡도를 O((log N)^2)에서 O((log N)^3 polylog log N) 수준으로 낮추는 일련의 새로운 결정론적 알고리즘과 그 기반이 되는 세 가지 소수성 추측(PBPC, PGPC, FGPC)을 제시한다. 3부 구성으로 이론, 실험, 특수 경우 증명을 순차적으로 제시한다.

상세 분석

이 논문은 크게 세 부분으로 나뉘며, 핵심은 “Baseline Primality Conjecture”(PBPC)와 그 확장인 Generalized Primality Conjecture(PGPC), Furthermost Generalized Primality Conjecture(FGPC)이다. PBPC는 “명시적 비제곱 잔여(QNR)가 주어지면 O((log N)^2 polylog log N) 시간에 결정론적으로 소수를 판정할 수 있다”는 주장이다. 저자는 11/12≈91.67%의 홀수 N에 대해 QNR를 쉽게 찾을 수 있다고 주장하지만, 실제로 QNR를 찾는 비용은 아직 명확히 분석되지 않았다. 특히 QNR를 찾기 위한 브루트포스 탐색이 최악의 경우 O(√N) 정도가 될 수 있기에, 전체 복잡도 분석에서 이를 무시한 점은 비판적이다.

PBPC와 Miller‑Rabin을 결합한 “Hybrid” 알고리즘은 Euler‑Criterion과 Miller‑Rabin 사이의 수학적 연관성을 이용한다. 논문은 Lemma PL‑1을 통해 두 검사의 합성 결과가 개별 검정보다 더 강력함을 보이지만, 증명은 부분적으로만 제시되고, 실제 구현에서의 상수 요인이나 메모리 사용량에 대한 논의가 부족하다.

명시적 QNR가 없을 경우를 다루는 섹션에서는 “Polynomial(x) mod N ≡ 0” 형태의 다항식 해가 암묵적 비제곱 잔여를 제공한다는 아이디어를 제시한다. 여기서 저자는 “Canonical Divisor Polynomials”를 구성해 모든 N에 대해 적용 가능한 비제곱 잔여를 보장한다는 주장을 한다. 그러나 이러한 다항식이 실제로 존재함을 보이는 일반적인 존재 증명은 부실하며, 제시된 예시는 제한된 작은 N에만 적용된다.

실험 파트(Part 2)에서는 Carmichael 수와 다양한 가짜 소수에 대해 알고리즘을 테스트했으며, “반례가 발견되지 않았다”는 결론을 내렸다. 하지만 실험 설계가 특정 범위(10^18 이하)와 특정 구현(Maple)으로 제한돼 있어, 일반적인 암호학적 규모(수천 비트)에서의 성능 및 견고성을 평가하기엔 부족하다.

마지막으로 Part 3에서는 PBPC에 대한 특수 경우 증명을 제시한다. 여기서는 “Canonical Prime Divisor P가 존재한다”는 전제와, Jacobi Symbol 불일치가 존재하면 N이 합성임을 보이는 논리를 전개한다. 증명은 일부 경우에만 완전하고, 나머지 경우는 “partial proof”로 남겨 두어 전체 정리의 완전성을 확보하지 못한다.

전체적으로 논문은 QNR 기반 결정론적 소수 판정이라는 흥미로운 아이디어를 제시하지만, 핵심 추측의 증명 부재, QNR 탐색 비용의 과소평가, 그리고 실험 범위의 제한 등으로 인해 현재 단계에서는 실용적인 대안이라기보다 연구적 탐색에 머문다. 향후 QNR 존재와 효율적 찾기에 대한 강력한 이론적 근거와, 대규모 암호학적 인스턴스에 대한 벤치마크가 필요하다.