계수 1 행렬을 포함한 두 행렬 쌍의 공동 스펙트럼 반경은 유한 단계에서 실현 가능

본 논문은 공동(또는 일반화) 스펙트럼 반경(Joint Spectral Radius, JSR)과 관련된 오래된 ‘스펙트럼 유한성(conjecture)’ 문제에 새로운 관점을 제시한다. JSR은 다수의 행렬이 임의의 순서로 곱해질 때 발생할 수 있는 최대 성장률을 정의하는데, ρ̂(𝒮)=lim_{n→∞} max_{i₁,…,iₙ}‖S_{i₁}…S_{iₙ}‖^{1/n} 로 정의된다. Berger‑Wang 정리에 의해 ρ̂(𝒮)=ρ(𝒮)=lim sup_{n} max_{i₁,…,iₙ}ρ(S_{i₁}…S_{iₙ})^{1/n} 가 성립한다. ‘스펙트럼 유한성’은 ρ(𝒮)를 정확히 달성하는 유한 길이의 단어(행렬 곱)가 존재하는가를 묻는다. 1990년대에 제기된 이 문제는 d=2, K=2인 경우에 반례가 존재함이 알려졌으며, 일반적으로는 거짓으로 판명되었다. 그러나 특정 구조적 제한 하에서는 여전히 참일 가능성이 있다. 논문은 “하나의 행렬이 랭크‑원(rank‑one)이다”는 가정을 두고, 두 행렬 S₁, S₂∈ℝ^{d×d} (d≥2)인 경우에 대해 다음 두 주요 정리를 증명한다. **Theorem 2.1 (절대 지수 안정성)** 만약 모든 곱 A∈𝒮⁺에 대해 ρ(A)<1이면, 즉 𝒮⁺가 ‘주기적으로 스위치 안정’하면, 랭크‑원 행렬이 포함된 경우 전체 스위칭 시스템이 절대적으로 지수적으로 안정한다. 즉, 임의의 전이열 i(·):ℕ→{1,2}에 대해 ‖S_{i₁}…S_{i_n}‖→0 (지수 속도)이다. 증명은 다음과 같다. 1. **블록 상삼각 분해 (Lemma 2.2)**: 일반적인 행렬쌍을 적절한 비특이 행렬 P로 동형 변환해, 각 블록이 불가약(irreducible)인 상삼각 형태로 만든다. 이는 Berger‑Wang 공식과 결합해 전체 JSR이 블록 중 최대값과 동일함을 보인다. 2. **Barabanov 노름 적용 (Theorem 2.3)**: 불가약 집합에 대해 특수 노름 ‖·‖_*가 존재함을 이용한다. 이 노름 아래서는 모든 행렬의 노름이 ρ̂(𝒮)≤1이며, 특정 전이열이 ‘극대’ 성질을 만족한다. 3. **랭크‑원 행렬의 표준형**: 랭크‑원인 S₂를 두 가지 표준 형태 B₁(λ·e₁e₁ᵀ)와 B₂(한 열에만 1이 있는 형태)로 가정한다. 두 경우 모두 S₁^ℓ·S₂^m의 곱은 상삼각 구조를 유지하고, 고유값은 λ^m·a_{11}^{(ℓ)} 형태가 된다. 4. **지수 감쇠**: 임의의 전이열에 대해 연속된 1 또는 2가 나타나는 구간을 찾아, 해당 구간의 곱이 λ^m·a_{11}^{(ℓ)}<γ<1임을 보인다. 구간 길이가 유한하게 제한되더라도 전체 로그 평균이 음수가 되므로, ‖S_{i₁}…S_{i_n}‖_*는 지수적으로 0으로 수렴한다. **Theorem 2.4 (스펙트럼 유한성)** 위 정리의 대우를 이용한다. ρ(𝒮)=1이라고 가정하고, 모든 곱이 1보다 작다고 가정하면 Theorem 2.1에 의해 ρ̂(𝒮)<1이 되어 모순이다. 따라서 어떤 유한 ℓ≥1이 존재해 ρ(𝒮)=ρ(S_{i₁}…S_{i_ℓ})^{1/ℓ}가 된다. 즉, 스펙트럼 유한성 성질이 성립한다. **Corollary 2.5 (알고리즘적 계산식)** 랭크‑원 행렬이 S₂라 할 때, ρ(𝒮) 를 다음과 같이 명시적으로 계산할 수 있다. - 만약 ρ(S₂)=0이면 ρ(𝒮)=max{ρ(S₁), max_{ℓ≥1}ρ(S₁^ℓ S₂)}. - 0<|λ|<1인 경우 ρ(𝒮)=max_{ℓ,m∈ℕ} (ρ(S₁^ℓ S₂^m))^{1/(ℓ+m)}. 이 식은 유한 탐색만으로 최적값을 찾을 수 있음을 의미한다. **의의와 응용** 1. **결정 가능성**: 스펙트럼 유한성은 ρ(𝒮) 를 유한 단계에서 정확히 계산할 수 있음을 의미한다. 따라서 ‘ρ(𝒮)<1인가?’ 라는 안정성 판단 문제가 알고리즘적으로 결정 가능해진다. 이는 제어 이론, 스위칭 시스템, 신호 처리 등에서 중요한 실용적 의미를 가진다. 2. **구조적 제한의 힘**: 일반적인 경우 스펙트럼 유한성은 거짓이지만, 랭크‑원이라는 간단한 구조적 제한만으로도 문제를 해결할 수 있음을 보여준다. 이는 다른 특수 구조(예: 비음수 행렬, 대각화 가능 행렬 등)에서도 유사한 결과를 탐색할 수 있는 길을 제시한다. 3. **수치적 구현**: 논문은 Section 3에서 몇 가지 구체적인 예시를 제시하고, 위 Corollary를 이용한 실제 계산 과정을 시연한다. 이는 이론이 실용적인 알고리즘으로 바로 연결될 수 있음을 보여준다. 결론적으로, 본 연구는 ‘랭크‑원 행렬을 포함한 두 행렬 쌍’이라는 제한 하에서 공동 스펙트럼 반경의 유한 단계 실현을 보이며, 이를 통해 안정성 판단의 결정 가능성을 확보한다. 이는 스펙트럼 유한성 문제에 대한 새로운 긍정적 사례를 제공하고, 구조적 제한을 활용한 추가 연구의 가능성을 열어준다.