솔버블 그룹 동형성의 n^(log n) 장벽을 깨다

초록

이 논문은 곱셈표로 주어진 두 유한 그룹의 동형성을 판정하는 문제에서 기존의 n^(log n) 복잡도 한계를 넘는 알고리즘을 제시한다. 핵심은 최소 소수 p에 대해 n^((1/2)·log_p n+O(1)) 시간 안에 구성 시리즈 동형성 문제로 환원하고, p‑군에 대해 n^((1/2)·log n+O(1)) 알고리즘을 얻는 것이다. 이를 Sylow 기반의 구조와 결합해 solvable 그룹 전체에 n^((1/2)·log n+O(log n/ log log n)) 시간 알고리즘을 구현한다. 또한 충돌 문제와 연결해 무작위화·양자 알고리즘으로 각각 지수 절반, 1/3을 더 낮춘다.

상세 분석

논문은 먼저 그룹 동형성 문제를 “구성 시리즈(isomorphism of composition series)” 문제로 효율적으로 환원한다는 점에서 혁신적이다. 구성 시리즈는 정상 부분군들의 사슬이며, 각 인자군은 단순군이다. 저자들은 최소 소수 p가 그룹 차수에 나타나는 경우, 두 그룹 G와 H의 구성 시리즈를 선택하고, 각 단계에서 p‑군 부분을 별도로 처리함으로써 전체 복잡도를 n^((1/2)·log_p n+O(1)) 로 낮춘다. 이때 사용되는 핵심 도구는 “p‑군 구성 시리즈 동형성”에 대한 n^(O(p/ log p)) 알고리즘이다. 이 알고리즘은 p‑군의 중앙계층 구조와 사슬의 길이를 정밀히 분석해, 가능한 사슬의 경우의 수를 p‑에 대한 지수 형태로 제한한다.

다음 단계에서는 p‑군 결과를 solvable 그룹에 일반화한다. solvable 그룹은 Sylow 서브그룹들의 직교적 결합으로 표현될 수 있는데, 저자들은 “Sylow 기반 베이스(Sylow basis)”를 도입해 각 Sylow p‑부분을 독립적으로 다룰 수 있게 만든다. 구체적으로, 각 소수 p에 대해 해당 Sylow p‑부분의 구성 시리즈를 구하고, 이를 교차 검증하는 방식으로 전체 그룹의 동형성을 판단한다. 이 과정에서 발생하는 조합 폭은 log n/ log log n 수준으로 억제되어, 최종 복잡도는 n^((1/2)·log n+O(log n/ log log n)) 가 된다.

마지막으로, 저자들은 이 문제를 “충돌 문제(collision problem)”와 연결한다. 충돌 문제는 두 함수가 동일한 출력값을 가질 확률을 찾는 것으로, 무작위화 알고리즘에서는 브루트포스 탐색 대신 충돌 찾기를 이용해 탐색 공간을 제곱근 수준으로 감소시킨다. 이를 적용하면 지수 상수 1/2 를 1/4 로 낮출 수 있고, 양자 알고리즘에서는 쇼어의 알고리즘을 이용해 1/6 로까지 개선한다. 전체적으로 이 논문은 구성 시리즈와 Sylow 구조를 정밀히 활용해 기존 n^(log n) 장벽을 깨는 동시에, 확률·양자 기법을 접목해 추가적인 지수 개선을 달성한 점이 가장 큰 공헌이다.