다항 복잡도 극한 시퀀스

초록

본 논문은 행렬 집합의 공동 스펙트럼 반경을 최대화하는 ‘극한 시퀀스’의 복잡도에 관한 새로운 결과를 제시한다. 기존에는 모든 유한 행렬 집합이 주기적(또는 유한 복잡도) 극한 시퀀스를 가질 것이라는 라가리아스‑왕 추측이 반례로 부정되었으며, 그 반례는 최소 선형 복잡도만을 보였다. 저자들은 이를 일반화하여, 임의의 정수 p ≥ 1에 대해 차원 2^p(2^{p+1}−1) 인 두 행렬 쌍을 구성하고, 그 집합의 모든 극한 시퀀스가 최소 2^{−p^2} n^p 의 다항식 차수 p 복잡도를 갖는다는 것을 증명한다.

상세 분석

논문은 먼저 공동 스펙트럼 반경(joint spectral radius, JSR)의 정의와 그와 연결된 극한 시퀀스(extremal sequence)의 개념을 명확히 한다. JSR는 주어진 유한 행렬 집합 𝔖 ⊂ ℝ^{d×d} 에 대해, 모든 가능한 행렬 곱의 성장률을 최대로 하는 상한값으로, ρ(𝔖)=lim sup_{n→∞} max_{A_i∈𝔖} ∥A_{i_n}⋯A_{i_1}∥^{1/n} 로 정의된다. 이때, 어떤 선택된 인덱스 시퀀스 (i_k)_{k≥1} 가 ρ(𝔖)와 일치하는 성장률을 달성하면 그 시퀀스를 극한 시퀀스라 부른다. 라가리아스‑왕(Lagarias‑Wang) 추측은 “모든 유한 행렬 집합은 주기적인 극한 시퀀스를 갖는다”는 강력한 주장으로, 이는 곧 모든 극한 시퀀스가 유한한 서브워드 복잡도(subword complexity)를 가짐을 의미한다. 기존 연구에서는 이 추측이 거짓임을 보이는 반례가 제시되었으며, 그 반례는 모든 극한 시퀀스가 최소 선형 복잡도 O(n) 를 갖는다는 사실만을 보여주었다.

저자들은 이러한 선형 복잡도 한계를 넘어, 복잡도가 다항식 차수 p 로 하한을 갖는 새로운 반례를 구축한다. 핵심 아이디어는 ‘코드워드’와 ‘자동기계(automaton)’를 이용해 행렬을 설계하고, 이 행렬들의 곱이 특정 언어의 단어열과 일대일 대응하도록 만드는 것이다. 구체적으로, p 차원의 디지털 전개(digital expansion)를 이용해 2^p개의 기본 상태를 정의하고, 각 상태 전이마다 두 종류의 행렬 A_0, A_1을 할당한다. 전이 구조는 고차원 Sturmian 시퀀스와 유사하게 설계되어, 길이 n 의 부분 문자열이 나타나는 경우의 수가 최소 c·n^p (여기서 c=2^{−p^2}) 로 성장한다. 이러한 전이 그래프는 ‘프리프레임(primitive) 행렬’와 ‘비가역성(irreducibility)’을 보장함으로써, 어떤 선택이라도 JSR에 도달하려면 반드시 복잡도가 위와 같은 다항식 하한을 만족해야 함을 증명한다.

수학적으로는, 행렬 쌍 (M_0, M_1)∈ℝ^{N×N} (N=2^p(2^{p+1}−1)) 를 다음과 같이 정의한다. 각 M_b (b∈{0,1})는 블록 대각선 형태이며, 블록은 p‑차원 하이퍼큐브의 인접성을 반영한다. 블록 내부는 전이 확률을 나타내는 0‑1 행렬이며, 이 행렬들의 스펙트럼 반경은 정확히 ρ=2^{p} 로 설정된다. 그런 다음, 임의의 무한 이진 시퀀스 s∈{0,1}^ℕ 에 대해 부분곱 P_n(s)=M_{s_n}⋯M_{s_1} 를 고려한다. 저자들은 Perron‑Frobenius 이론을 이용해, P_n(s) 의 성장률이 ρ^n 이 되려면 s 가 ‘다항 복잡도’ 조건을 만족해야 함을 보인다. 즉, s 가 일정 길이 이하의 단어만을 반복하는 경우, P_n(s) 의 노름이 ρ^n 보다 현저히 작아 극한 시퀀스가 될 수 없다는 것이다.

결과적으로, 모든 극한 시퀀스는 최소 2^{−p^2} n^p 의 서브워드 복잡도를 가져야 하며, 이는 기존 선형 하한을 일반화한 다항식 차수 p 의 하한이다. 이와 같은 구성은 차원 N 이 p 에 대해 지수적으로 증가하지만, p 를 고정하면 유한한 행렬 쌍만으로 원하는 복잡도 하한을 구현할 수 있음을 보여준다. 논문은 또한 이러한 행렬 쌍이 실제로 JSR 를 정확히 달성하는 극한 시퀀스를 가짐을 수치 실험을 통해 검증한다.