AKS 알고리즘의 정당성, 제한된 산술 이론 안에서 입증

초록

본 논문은 AKS 소수 판정 알고리즘의 올바름을 제한된 산술 이론 (T^{count}_2)와 동등한 (VTC^0_2) 내에서 증명한다. 이를 위해 먼저 (S^1_2 + iWPHP) 에 두 개의 새로운 대수 공리를 추가하고, 그 공리들을 (VTC^0_2) 에서 증명한다. 논문은 또한 PV₁, (S^1_2), (VTC^0) 각 이론에서 필요한 수론·대수학 결과(레지엔드 공식, 조합수 체계, 사이클로토믹 다항식, LCM 부등식, Kung‑Sieveking 알고리즘)를 형식화한다.

상세 분석

이 연구는 “프라임(P) ↔ AKSPrime(P)”라는 Π₁⁽ᵇ⁾‑형식 명제를 제한된 산술 체계 안에서 증명 가능하게 만든 최초 사례라 할 수 있다. 핵심 아이디어는 두 개의 새로운 공리, 즉 일반화된 페르마 소정(GFL T)과 루트 상한(RUB) 공리를 도입하는 것이다. GFL T는 로그 크기의 다항식 (X^r-1) 모듈러 (p) 에 대해 ( (X+a)^p \equiv X^p + a \pmod{X^r-1}) 를 보장함으로써 AKS 알고리즘의 핵심 단계인 다항식 거듭제곱을 제한된 연산으로 축소한다. RUB는 임의 차수의 희소 다항식 (f) 의 근들을 “근 번호” (1,\dots,\deg f) 에 일대일 대응시키는 새로운 함수 심볼을 도입한다. 이는 기존의 “근의 존재와 열거”를 직접 증명하기 어려운 상황을 회피하고, 대신 근을 인덱스로 다루어 복잡도 이론과의 정합성을 확보한다.

논문은 먼저 (S^1_2 + iWPHP + GFL T + RUB) 내에서 AKS 알고리즘의 전체 증명을 전개한다. 여기서 iWPHP(약한 피죤홀 원리)는 다항식 함수의 삽입성을 보장하는 데 사용되며, GFL T와 RUB는 각각 다항식 거듭제곱과 근 인덱싱을 담당한다. 이후 이 네 공리를 (VTC^0_2) 내에서 증명한다. 이를 위해 PV₁ 단계에서 레지엔드 공식( (n!) 의 소인수 분해), 조합수 체계, 사이클로토믹 다항식의 존재를 형식화한다. 특히, 레지엔드 공식은 (lcm(1,\dots,2n) \ge 2^n) 이라는 중요한 부등식의 증명에 활용되며, 이는 AKS 알고리즘의 복잡도 분석에 필수적인 “큰 수의 최소 공배수” 추정에 기여한다.

(VTC^0) 단계에서는 Kung‑Sieveking 알고리즘을 이용한 다항식 나눗셈의 정당성을 증명한다. 이 알고리즘은 고차 다항식의 나눗셈을 로그‑다항식 시간 내에 수행할 수 있음을 보이며, VTC⁰의 집합 정리와 결합해 Σ₁ᴮ‑정의 가능성을 확보한다. 최종적으로, 모든 부품이 결합되어 (T^{count}_2) (또는 (VTC^0_2)) 내에서 AKS 알고리즘의 정당성이 증명됨을 보여준다.

이러한 결과는 제한된 산술 이론이 “프라임”이라는 복잡한 산술 명제를 다루는 데 충분히 강력함을 입증한다는 점에서 의미가 크다. 특히, AKS 알고리즘이 현재 알려진 결정적 다항식 시간 소수 판정 알고리즘 중 유일함을 감안하면, 이 논문의 형식화는 “프라임” 명제의 복잡도‑이론적 위치를 보다 명확히 하는 데 기여한다. 또한, GFL T와 RUB와 같은 새로운 대수 공리의 도입은 향후 다른 고차 대수적 알고리즘(예: 다항식 근 찾기, 유한체 확장)의 형식화에도 활용될 가능성을 열어준다.