실제‑복소 변환 기반 새로운 제로 탐색 알고리즘

초록

본 논문은 기존의 그램점·구간 브래키팅 방식 대신, 실수 변수 N을 복소수 s=½±i√(N‑¼) 로 매핑하는 실수‑복소 변환을 이용한다. 이 변환으로 얻은 t=√(N‑¼) 구간을 따라 Hardy Z‑함수의 절댓값 |Z(t)| 를 스캔하여 국소 최소점(밸리)을 검출하고, 안전한 뉴턴 반복으로 정밀히 제로를 찾는다. 고정밀 Riemann‑Siegel 공식과 Gabcke식 잔여항 제어를 결합하고, 멀티코어 클라우드 환경에서 병렬화하여 t≈10²⁰까지의 제로를 성공적으로 재현·확인하였다.

상세 분석

이 연구는 두 가지 혁신적인 아이디어를 결합한다. 첫째, N→s 변환 s=½±i√(N‑¼) 은 실수 N을 직접 t=Im s 로 변환함으로써, 전통적인 그램점 정의 θ(gₙ)=nπ 와 무관하게 임의의 높이 구간을 연속적으로 탐색할 수 있게 한다. 변환 후 t와 N 사이의 관계 t²+¼=N 이므로 N을 1씩 증가시키는 간단한 루프만으로 t가 부드럽게 증가한다. 둘째, |Z(t)| 가 “산‑골” 형태를 보인다는 관찰을 이용해, 골(국소 최소) 위치가 바로 ζ(s)의 비자명 영점에 해당한다는 점을 활용한다. 기존 방법은 Z(t)의 부호 변화를 감지해 영점을 찾았지만, 부호가 급격히 변하거나 그램점이 비정상적으로 배치될 경우 누락 위험이 있었다. 반면, 절댓값 최소 탐지는 부호와 무관하게 모든 영점을 포착한다.

알고리즘은 다음 단계로 구성된다. (1) 초기 t₀ 를 선택하고 N₀=t₀²+¼ 로 변환한다. (2) N을 일정 스텝(보통 1)씩 증가시키며 t=√(N‑¼) 를 계산하고, 고정밀 Riemann‑Siegel 공식 Z(t)=2∑_{n≤√(t/2π)} cos(θ(t)‑t log n)/√n + R(t) 로 |Z(t)| 를 평가한다. 여기서 Gabcke식 잔여항 경계는 128‑256비트 MPFR 연산으로 엄격히 제어한다. (3) 연속된 |Z| 값의 차이를 모니터링해 감소‑증가 전환이 발생하면 국소 최소점 후보를 기록한다. (4) 후보점에서 안전 뉴턴(또는 뉴턴‑시컨트 혼합) 반복을 수행해 ζ(s) = 0 에 수렴하도록 정밀히 보정한다. 뉴턴 단계에서는 Z’(t) 를 Riemann‑Siegel 미분식으로 직접 계산하고, 수렴 실패 시 Pegasus‑type 보조 절차를 적용한다.

병렬화 측면에서는 Z(t) 의 주 합산 항이 n에 대해 독립적이므로 OpenMP 로 n 구간을 분할해 각 코어가 부분합을 계산한다. 잔여항 R(t) 는 직렬로 처리하지만 전체 연산 시간에 미치는 비중은 미미하다. AWS EC2 인스턴스(다중 코어)와 Lambda 기반 배치 스케줄러를 이용해 수천 개의 t 구간을 동시에 처리했으며, 거의 선형적인 스케일링을 확인했다.

정밀도 검증은 두 축으로 수행되었다. 첫째, 기존 Odlyzko‑Schönhage 데이터베이스와 직접 비교해 모든 검출 영점이 일치함을 확인했다. 둘째, “볼 테스트”(local ball test)라 불리는 방법으로, 인접 영점 사이의 거리와 Riemann‑von Mangoldt 예측값을 비교해 통계적 일관성을 검증했다. 평균 간격 ∆ₜ≈2π log(t/2π) 와 실제 측정값 사이의 상대 오차는 t≈10²⁰ 구간에서도 10⁻⁹ 이하로 유지되었다.

또한 논문은 제로 좌표를 이용한 Chebyshev 함수 ψ(x) 의 명시적 공식에 대한 “실제 계단” 표현을 제시한다. 여기서는 ζ(s) 영점 ρ=½+itₖ 를 직접 사용해 ψ(x) 를 Σ_{k} x^{ρ}/ρ 형태로 재구성함으로써, 복소수 영점이 실수 함수에 미치는 영향을 직관적으로 파악한다.

전체적으로 이 접근법은 (1) 그램점 의존성을 완전히 배제하고, (2) 절댓값 최소 탐지를 통한 영점 검출의 보편성을 확보하며, (3) 고정밀 Riemann‑Siegel‑Gabcke 체계와 클라우드 기반 병렬화로 대규모 계산을 실현한다는 점에서 기존 방법에 비해 확연히 우수하다. 다만, N을 1씩 증가시키는 선형 스캔은 매우 높은 t 구간에서 샘플링 밀도가 과도해 계산 비용이 급증할 수 있다는 점이 남는다. 향후 연구에서는 가변 스텝 크기(예: 평균 간격 기반 적응 스텝)와 머신러닝 기반 최소점 예측을 결합해 효율성을 더욱 개선할 여지가 있다.