두 파라볼릭 행렬이 생성하는 비자유 군과 궤도 테스트의 한계

초록

이 논문은 두 파라볼릭 행렬 (A=\begin{pmatrix}1&1\0&1\end{pmatrix})와 (B_\alpha=\begin{pmatrix}1&0\\alpha&1\end{pmatrix})가 생성하는 군 (G_\alpha)에 대해, “궤도 테스트”가 비자유성을 판정하는 충분조건임을 재확인하고, 그 역조건이 일반적으로 성립하지 않음을 무한히 많은 유리수 예시를 통해 보인다. 또한 펠리 방정식의 변형을 이용해 (3)을 극한점으로 갖는 비자유 유리수열을 두 개 명시적으로 구성한다.

상세 분석

논문은 먼저 기존 연구에서 제시된 “궤도 테스트”(Proposition 2.1)를 정리한다. 이 테스트는 실수 (\alpha)에 대해 (G_\alpha) 안에 어떤 원소 (g)가 존재해 (g\cdot0=1/2) 혹은 (g\cdot\infty=1/2) 를 만족하면 (\alpha)는 비자유, 즉 (G_\alpha)가 자유군이 아님을 보장한다. 저자들은 이 조건이 충분하지만 필요는 아니라는 점을 증명한다.

첫 번째 주요 결과(Theorem 1.5, Corollary 3.2)는 “궤도 테스트의 역조건은 거짓”임을 보인다. 이를 위해 (\alpha=q/p) (기약분수) 형태의 유리수를 고려하고, (G_{q/p})를 (\mathrm{SL}_2(\mathbb Z