그룹·반군에서의 서브리니어 시간 알고리즘 탐구

초록

이 논문은 자유군의 원시성 판별, 군·반군의 단어 문제 등 그룹 이론과 반군 이론에서 “대부분의 입력”에 대해 서브리니어(입력 길이보다 작은) 시간으로 해결 가능한 알고리즘을 탐색한다. 특히, 무작위 부분단어를 이용한 화이트헤드 그래프 분석을 통해 자유군 원시성 검사를 서브리니어 시간에 수행할 수 있음을 보이고, 양의 모노이드(특히 브레이드 군에 연관된 모노이드)에서는 단어 불등식 검증이 서브리니어 시간에 가능함을 제시한다. 반면, 자유 영포텐트 군에 대응하는 모노이드와 톰슨 군의 경우에는 그러한 알고리즘이 존재하지 않음을 증명한다.

상세 분석

논문은 먼저 서브리니어 시간 알고리즘이라는 개념을 소개하고, 이를 그룹 이론에 적용하기 위한 두 가지 주요 문제를 제시한다. 첫 번째는 자유군 (F_r)에서 원시 원소(프리 베이스의 원소)인지 판별하는 문제이며, 두 번째는 군·반군의 단어 문제, 특히 양의 모노이드(그룹 생성원만을 사용하고 역원을 허용하지 않는 구조)에서의 동등성 검증이다.

원시성 판별에서는 화이트헤드 그래프 (Wh(u))를 핵심 도구로 삼는다. (u)가 사이클릭하게 감소된 단어라면, 그 그래프의 정점은 생성원과 그 역원이며, 인접 관계는 단어 내 2-문자 서브워드에 의해 정의된다. 화이트헤드의 고전 결과에 따르면, 원시 원소의 그래프는 절단점이나 고립된 변을 반드시 포함한다. 반대로, 그래프가 해밀턴 회로를 포함하면 원시성이 부정된다. 논문은 무작위로 선택된 길이 (|u|^{\delta}) ((0<\delta<1))의 부분단어 (v)를 검사함으로써, 거의 모든(즉, 확률 1에 수렴하는) 입력에 대해 (Wh(v))가 완전 그래프가 됨을 보인다. 이는 (Wh(u)) 역시 해밀턴 회로를 포함한다는 것을 의미하고, 따라서 (u)는 원시가 아니다. 이 방법은 전체 단어를 읽지 않고도 원시성을 부정적으로 판별할 수 있는 서브리니어 시간 알고리즘을 제공한다.

두 번째 문제인 단어 문제에서는 일반적인 군에서는 서브리니어 검사가 불가능함을 논증한다. 특히, 관계 (r=1)을 포함하는 군에서는 길이 (m)인 임의의 단어의 앞 절반에 관계가 거의 확실히 포함되므로, 부분단어만으로는 동등성을 판단할 수 없다. 그러나 반군, 특히 양의 모노이드에서는 상황이 달라진다. 논문은 세 종류의 양의 모노이드를 조사한다.

1. 자유 영포텐트 군에 대응하는 양의 모노이드: 여기서는 레마와 말레체프-네우만-테일러 순서를 이용해 두 단어 (w_1, w_2)가 길이 (n)일 때, 길이 (\le (n-1)2^c)인 보조 단어 (z_1, z_2)를 찾아 (w_1z_1 = w_2z_2)가 성립함을 보인다. 즉, 앞부분만 검사해도 동등성을 부정할 수 없으며, 서브리니어 시간 알고리즘이 존재하지 않음을 시사한다.

2. 톰슨 군 (F)에 대응하는 양의 모노이드: 논문은 이 경우에도 비슷한 구조적 이유로 서브리니어 검사가 어려움을 논한다. 구체적인 증명은 제시되지 않았지만, 동일한 패턴이 적용된다고 주장한다.

3. 브레이드 군에 대응하는 양의 모노이드: 여기서는 긍정적인 결과가 나온다. 브레이드 군의 양의 모노이드는 특정 형태의 단어 쌍에 대해, 앞부분만으로도 서로 다름을 확률적으로(오차 확률이 0에 수렴) 판별할 수 있는 알고리즘을 설계한다. 이는 브레이드 군의 특수한 교환 관계와 Garside 구조를 활용한 것으로, 서브리니어 시간 내에 “부정적” 답변을 제공한다.

전체적으로 논문은 “대부분의 입력”을 정의하기 위해 비율 밀도(아스텁틱 밀도)를 사용한다. 즉, 길이 (n) 이하의 단어 집합 중에서 비율이 1에 수렴하는 부분집합을 ‘generic’이라 부른다. 이러한 정의 하에, 자유군 원시성 검사와 브레이드 양의 모노이드의 동등성 부정 검사는 서브리니어 시간에 가능함을 보이며, 다른 두 경우는 불가능함을 증명한다.

이러한 결과는 그룹 이론에서 전통적으로 ‘전역적인’ 복잡도 분석이 어려운 문제들을, 평균·일반적인 경우에 한해 효율적인 검증 방법으로 전환시킬 수 있음을 시사한다. 또한, 서브리니어 알고리즘이 그래프 이론에서 시작된 ‘속성 테스트(property testing)’와 어떻게 연결되는지를 보여주며, 향후 다른 대수적 구조에 대한 유사한 접근법 개발의 가능성을 열어준다.