대규모 소수 탐지 시간 최소화

초록

본 논문은 큰(가능성 있는) 소수를 찾을 때, 초기 소수 나눗셈 단계와 Miller‑Rabin 테스트 사이의 전환 시점을 실험적으로 규명한다. 또한 Goldbach 추측을 활용해 RSA 키 생성 과정의 효율성을 검토한다.

상세 요약

이 연구는 현대 암호학에서 핵심적인 역할을 하는 대규모 소수 생성 과정을 두 단계로 나눈다. 첫 번째 단계는 작은 소수(보통 21000 이하)로의 나눗셈을 통해 명백히 합성인 수를 빠르게 걸러내는 전처리이며, 두 번째 단계는 확률적 소수 판정 알고리즘인 Miller‑Rabin을 적용해 남은 후보들의 소수성을 검증한다. 기존 이론에서는 전처리 단계의 깊이와 Miller‑Rabin 반복 횟수 사이의 최적 균형을 수학적으로 도출하기 어려워 경험적 접근이 필요하다고 제시한다. 논문은 10⁴10⁶ 비트 길이의 무작위 정수를 대상으로, 전처리에서 사용되는 소수 집합의 크를 10, 30, 50, 100, 200개로 변형하면서 Miller‑Rabin을 5회, 10회, 20회 적용한 경우의 전체 실행 시간을 측정하였다. 결과는 전처리 소수 개수가 일정 수준(대략 50100개) 이상 증가하면 오히려 전체 시간에 부정적 영향을 미친다는 것을 보여준다. 이는 전처리 단계에서 발생하는 메모리 접근 비용과 캐시 미스가 Miller‑Rabin의 고정된 연산량을 상쇄하기 때문이다. 또한, Goldbach 추측을 이용한 “짝수 분해 후 소수 후보 생성” 전략을 도입했을 때, 특히 2048비트 RSA 키 생성에서 평균 12%의 시간 절감 효과가 관찰되었다. 이 전략은 먼저 무작위 짝수를 선택하고, 그 짝수를 두 소수의 합으로 표현한 뒤, 그 중 하나를 후보로 삼는 방식이다. Goldbach 가설이 아직 증명되지 않았음에도 불구하고, 실험적 검증을 통해 충분히 높은 성공률(99.9% 이상)을 확보했으며, 이는 실제 구현에서 위험 요소가 되지 않는다. 논문은 또한 Miller‑Rabin의 오류 확률을 2⁻⁸⁰ 수준으로 낮추기 위해 40회 반복을 권장하지만, 전처리 단계에서 충분히 많은 작은 소수로 걸러낸 경우 20회 반복만으로도 실용적인 보안을 유지할 수 있음을 입증한다. 최종적으로 저자는 “전처리 단계에서 7080개의 소수까지 사용하고, Miller‑Rabin을 20회 수행하는 것이 평균적인 대규모 소수 탐지에 최적”이라는 실용적 가이드를 제시한다.