유클리드‑멀린 수열의 일반화와 사이클로토믹 다항식

초록

이 논문은 기존 멀린 수열을 확장하여, 주어진 잉여류에 속하는 소수만을 생성하는 일반화된 유클리드‑멀린 수열을 정의한다. 특히 사이클로토믹 다항식 Φₘ(cx) 를 이용한 경우를 집중적으로 연구하고, ERH(확장 리만 가설) 하에서 두 번째 일반화 수열이 무한히 많은 p≡1(mod m) 소수를 놓친다는 결과와, 조건 없이도 무한히 많은 m 에 대해 최소 하나의 소수가 누락된다는 정리를 증명한다.

상세 분석

논문은 먼저 기존 멀린 수열의 두 변형—첫 번째는 매 단계에서 가장 작은 소수를, 두 번째는 가장 큰 소수를 선택하는 방식—을 일반적인 잉여류 a (mod m) 에 대해 정의한다. 이를 위해 저자들은 “GEM( a, m )”이라는 새로운 다항식 클래스(Generalised Euclid–Mullin polynomial)를 도입한다. GEM은 (i) f(1)≠0, (ii) 임의 n 에 대해 f(n) 이 a (mod m) 인 소수를 적어도 하나 포함하고, 그 소수가 f(0) 을 나누지 않는다는 두 조건을 만족한다. 이러한 정의는 기존의 E′(a,m) 다항식과 동등한 증명력을 가지며, 실제로 E′→GEM, GEM→E′ 변환을 명시적으로 구성한다.

다음으로 저자들은 사이클로토믹 다항식 Φₘ(cx) 가 언제 GEM(1,m) 에 속하는지를 완전히 규정한다. Zsigmondy 정리와 Φₘ(−x) 에 대한 기본 항등식을 이용해, c 가 특정 작은 정수를 제외한 모든 정수이면 Φₘ(cx) 는 항상 a=1 (mod m) 소수를 제공한다는 것을 보인다. 특히 m=1,2,3,6 에 대해서는 예외 집합을 명시하고, 그 외의 m 에 대해서는 c∉{−1,0,1} 이면 충분함을 증명한다.

주요 정리들은 두 번째 일반화 수열(GEM₂)의 소수 누락 현상을 다룬다. 정리 1.4에서는 m∈{1,2} 에 대해, ERH가 성립하거나 f 가 특정 형태가 아닌 경우, GEM₂가 무한히 많은 p≡1(mod m) 소수를 놓친다. 정리 1.6은 Φₘ(cx) 에 대해 ERH 가정 하에 같은 결론을 얻으며, 정리 1.7은 GLH(Generalised Lindelöf Hypothesis) 혹은 ERH 없이도 m∈{1,…,10,12,14,18} 에 대해 무조건적인 누락을 보인다. 마지막으로 정리 1.8은 m 이 2의 거듭제곱일 때, c∈S(m) 이면 최소 소수(또는 두 번째 최소 소수)가 반드시 누락된다는 강력한 비조건부 결과를 제공한다.

증명 기법은 크게 세 부분으로 나뉜다. 첫째, 문자합(character sum)과 Burgess 추정치를 이용해 짧은 구간에서의 비자명 문자 합을 제어한다(섹션 2). 둘째, 이러한 추정을 고차 문자(특히 2차 문자)와 결합해 â(n)·χ(n) 형태의 평균값을 구한다(섹션 3). 셋째, Zsigmondy 정리와 사전 계산된 Diophantine 방정식 해를 활용해 Φₘ(cx) 가 실제로 a≡1(mod m) 소수를 생성함을 보인다(섹션 4). 마지막 섹션 5에서는 앞서 얻은 모든 도구를 종합해 주요 정리들을 단계별로 증명한다.

특히, 정리 2.5와 3.2에서 제시된 “짧은 문자합에 대한 평균값 추정”은 기존 문헌(예: Burgess