단순군에서 닐포텐트 부분군 교차와 Lisi‑Sabatini 추측의 확률적 증명

초록

본 논문은 Lisi‑Sabatini가 제시한 “각 소수 p에 대해 Sylow p‑부분군 Hₚ와 그 어떤 공액 Hₚˣ의 교집합이 최소가 되도록 하는 원소 x 존재”라는 추측을, 교대 대칭군을 제외한 모든 유한 단순군에 대해 확률론적 방법으로 증명한다. 이를 통해 Vdovin(2002)의 “단순군의 닐포텐트 부분군 H에 대해 H∩Hˣ=1이 되는 x가 존재한다”는 추측을 완전히 해결하고, 두 닐포텐트 부분군 A, B에 대해 A∩Bˣ=1이 되는 x가 존재한다는 강한 형태까지 얻는다. 핵심은 Sylow p‑부분군들의 무작위 공액이 교차하지 않을 확률 Qₚ(G)를 상한으로 추정하고, 모든 소수에 대해 ∏ₚ Qₚ(G)<1을 보つ는 것이다.

상세 분석

논문은 먼저 Lisi‑Sabatini 추측을 단순군 G에 대해 “모든 소수 p에 대해 Sylow p‑부분군 Hₚ와 Hₚˣ의 교집합이 자명(=1)인 원소 x가 존재한다”는 형태(Conjecture 6)로 재정의한다. 이와 동시에 Vdovin의 원래 추측(Conjecture 1)은 Sylow 부분군들의 교집합이 자명함을 보이면 바로 따라오므로, Conjecture 6을 증명하는 것이 핵심 과제가 된다.

확률적 접근법은 Qₚ(G)=|{x∈G | Hₚ∩Hₚˣ≠1}|/|G| 로 정의하고, 전체 실패 확률 Q(G)=|{x | ∃p: Hₚ∩Hₚˣ≠1}|/|G| ≤ Σₚ Qₚ(G) 로 상한을 잡는다. 따라서 Σₚ Qₚ(G)<1이면 원하는 원소 x가 존재한다.

각 Qₚ(G)를 추정하기 위해 G를 Sylow p‑부분군 Hₚ에 대한 전이적 작용으로 보며, 두 임의의 점이 베이스를 이루지 않을 확률과 동등함을 이용한다. 기존의 Liebek‑Shalev 방법을 확장해
bQₚ(G)=∑_{i=1}^k (|x_i^G∩Hₚ|/|x_i^G|)²
와 같은 형태의 상한을 얻는다. 여기서 x_i는 G의 원소 중 차수가 p인 대표 원소들의 대표 집합이다.

그 다음, 단순군을 세 부류(교대군, 스포리드 군, 그리고 고전·예외군)로 나누어 각각에 대해 |x_i^G∩Hₚ|를 구하거나 충분히 작은 상한을 제공한다. 대부분의 경우 단순히 |x_i^G∩Hₚ|<|Hₚ| 로도 충분했으나, 가장 작은 클래스에 대해서는 Hₚ를 더 큰 부분군 L에 포함시켜 |x_i^G∩L|를 셈으로써 정밀한 추정이 가능했다.

특히 특성 소수 r(즉, G가 정의된 체의 특성)인 경우, H_r는 Borel 부분군의 유니포텐트 라디칼이며, 반대 Borel을 이용하면 H_r∩H_rˣ=1인 x가 바로 존재함을 보인다. 따라서 Q_r(G)≤1−|H_r|·|N_G(H_r)|/|G| 로 강한 상한을 얻고, 나머지 소수에 대해서는 위의 bQₚ(G)와 곱을 취해 전체 곱이 1보다 작음을 확인한다.

예외적으로 U₄(2)≅PSp₄(3)에서는 위 방법이 바로 적용되지 않지만, 직접 계산을 통해 Conjecture 6이 성립함을 확인한다.

이러한 전 과정을 정리하면 Theorem A(Conjecture 6이 모든 비교대 단순군에 대해 성립)와 Corollary B(Vdovin 추측의 완전 증명), Corollary C(베이스 크기와 부분군 깊이의 정확한 값), Theorem D(Lie type 군에 대한 Qₚ(G)의 점근적 소멸), Corollary E(무한 수열에 대한 전반적 행동) 및 Theorem F, G(두 닐포텐트 부분군의 교차가 자명하도록 하는 원소 존재) 등을 얻는다.

핵심적인 기술적 기여는 (1) 확률적 베이스 이론을 Sylow 부분군 교차 문제에 적용한 새로운 프레임워크, (2) 기존의 클래스 크기와 교집합 크기에 대한 상세한 계산을 통해 모든 단순군에 대해 일관된 상한을 제공한 점, (3) Mazurov‑Zenkov의 블록 이론적 증명과는 독립적인, 전적으로 조합론·확률론적 방법에 기반한 새로운 증명을 제시한 점이다.