자유군의 뒤틀린 동형류를 닐포텐트 몫으로 효율적으로 구분하기

본 논문은 자유군 \(G=F_k\) 에서 뒤틀린 동형류(리데메이스터 클래스) 문제를 해결하기 위한 새로운 대수적 접근법을 제시한다. 전통적으로는 아벨리안화 \(\bar G=G/\gamma_1(G)\) 를 이용해 선형 방정식으로 문제를 단순화했지만, 이는 두 원소가 동형이 아닌 경우를 증명하는 데는 유용하지만, 동형임을 확인하는 데는 한계가 있었다. 저자는 이를 일반화하여 하위 중심 시리즈 \(\gamma_n(G)\) 로 정의되는 닐포텐트 몫 \(G_n=G/\gamma_n(G)\) 에 투사하고, Hall이 제시한 기본 교환자와 가중치 개념을 활용해 각 원소를 고유한 Hall 정규형으로 변환한다. 이 정규형은 \(\gamma_n\) 이하의 모든 교환자를 체계적으로 정렬한 형태이며, 클래스 2 닐포텐트 군에서는 교환자들이 서로 교환 가능하므로 재작성 규칙이 간단해진다. 논문은 먼저 Nielsen 고정점 이론에서 뒤틀린 동형류가 어떻게 등장하는지를 설명한다. 맵 \(f:X\to X\) 의 기본군 \(\pi_1(X)\) 에 induced된 엔도몰피즘 \(\varphi\) 에 대해, 두 고정점 클래스가 동일하려면 \(\alpha = \varphi(\gamma)\beta\gamma^{-1}\) 가 성립해야 하며, 이는 바로 뒤틀린 동형 관계와 동치이다. 따라서 Nielsen 수를 계산하려면 \(\varphi\) 로 정의된 뒤틀린 동형류 집합 \(R(\varphi)\) 를 구해야 하는데, 현재 알려진 일반적인 알고리즘은 존재하지 않는다. 본 논문의 핵심 기법은 다음과 같다. 1. **투사와 정규형**: 주어진 \(g,h\in G\) 와 엔도몰피즘 \(\varphi\) 에 대해, \(n\)을 1부터 시작한다. \(G_n\) 로 투사한 원소를 \(\bar g, \bar h\) 라 하고, 일반적인 형태의 후보 \(z\in G_n\) 를 변수화한다. 2. **식 전개**: \(\varphi(z)\) 와 \(h\) 를 Hall 정규형으로 변환하고, 뒤틀린 동형 관계 \(\bar g = \varphi(z)\,\bar h\,z^{-1}\) 를 양변의 정규형을 맞추어 비교한다. 이 과정은 기본 교환자들의 지수와 생성자들의 지수를 포함하는 선형(또는 다항) 방정식 시스템으로 귀결된다. 3. **선형 시스템 해결**: 시스템이 무해하면 \(