근접 특이 선형 시스템을 위한 강인 카차르즈 방법

본 논문은 대규모 선형 시스템을 푸는 효율적인 행‑액션 방법인 카차르즈(Kaczmarz) 알고리즘이 행 순위가 결핍된 ‘거의 특이(near‑singular)’ 행렬에 적용될 때, 최소 비영특이값 σ₊ₘᵢₙ(A) 가 매우 작아져 수렴 속도가 급격히 저하되는 문제를 다룬다. 저자들은 먼저 A(ε) 라는 파라미터화된 행렬을 도입하고, ε→0⁺ 일 때 행 공간(row(A)) 이 Grassmann 다양체 Grass(p,n) 상에서 급격히 변한다는 사실을 관찰한다. 이를 정량화하기 위해 canonical angle θ_i 와 gap metric Δ=sinθ₁ 을 사용해 ‘근접 특이성(near‑singular property)’을 정의하고, 행 공간이 불안정한 서브스페이스임을 수학적으로 증명한다. 핵심 개념은 기존 커널 ker(A) 를 일반화한 ‘근접 커널(approximate kernel)’ 𝒦̃ₑ 를 정의하는 것이다. 𝒦̃ₑ 는 행 공간의 불안정 성분을 보정하는 보조 부분공간으로, 서브스페이스 보정(SSC) 프레임워크에서 보조 연산자 R_j 로 활용된다. 저자들은 Xu–Zikatanov 항등식을 이용해 SSC 연산자 B_SSC(ω) 의 스펙트럼 반경을 분석하고, ρ∈(0,1) 라는 ε와 무관한 하한을 도출한다. 이를 바탕으로 제안된 커널‑증강 카차르즈(Kernel‑augmented Kaczmarz, KaK) 알고리즘은 기존 카차르즈 투영 단계와 근접 커널 보정 단계를 교대로 수행한다. 구체적으로, 1) 현재 추정 x_k 에 대해 선택된 행 i_k 로 전통적인 카차르즈 투영을 수행하고, 2) 근접 커널 𝒦̃ₑ 에 대한 보정 연산 R R^T (b−A x_k) 를 추가한다. 이 과정은 행 공간의 불안정 성분을 즉시 제거하고, 남은 안정된 성분에 대해서는 기존 카차르즈와 동일한 선형 수렴을 보장한다. 수렴 분석에서는 Xu–Zikatanov 항등식과 서브스페이스 보정 이론을 결합해 ‖x_{k+1}−x_*‖ ≤ (1−ρ)‖x_k−x_*‖ 를 증명하며, ρ는 ε에 독립적이다. 실제 구현을 위해 저자들은 ‘근접 이중 커널(approximate dual kernel)’ 𝒦̃ₑ^* 를 도입하고, KaK 를 등가 좌표 하강(Kernel‑augmented Coordinate Descent, KaCD) 형태로 변환한다. 이 변환은 Kaczmarz 와 좌표 하강 사이의 알려진 동등성을 활용해, 각 좌표 i 에 대해 스텝 사이즈 s_i = ‖A(i)‖⁻² 를 유지하면서도 보정 연산을 A^T A 기반의 선형 연산으로 구현한다. KaCD 는 기존 무작위 좌표 하강(RK)과 동일한 연산 복잡도를 가지면서도, 근접 커널 보정 덕분에 ε에 대한 민감도가 사라진다. 가속화는 Nesterov‑type 예측‑보정 스킴을 KaCD 에 적용해 ‘커널‑증강 가속 좌표 하강(Kernel‑augmented Accelerated Coordinate Descent, KaACD)’ 을 만든다. 저자들은 Lyapunov 함수와 Xu–Zikatanov 항등식을 재활용해 KaACD 가 ‖x_k−x_*‖ ≤ C·min{1/k², (1−√ρ)^k} 의 수렴 속도를 갖는 것을 증명한다. 이는 최적 1차 방법 복잡도와 일치하며, 특히 ρ가 ε와 무관하므로 거의 특이 시스템에서도 가속 효과가 유지된다. 수치 실험에서는 간단한 2×2 행렬 (7) 에서 ε를 10⁻⁵~10⁻¹까지 변화시켰을 때 KaK 가 Kaczmarz 보다 일정하게 16번의 iteration 으로 수렴함을 보여준다. 또한 고차원 FEM 기반 H(div), H(curl) 문제와 거의 비압축성 탄성 문제 등 실제 과학·공학 응용 사례에서도 KaK 와 KaACD 가 기존 Randomized Kaczmarz, Accelerated Randomized Kaczmarz, 블록 카차르즈 등에 비해 1~2 주문 규모의 iteration 감소와 ε에 대한 무감응성을 보인다. 결론적으로, 이 논문은 행 공간의 불안정성을 Grassmann 다양체와 서브스페이스 보정 이론을 통해 기하학적으로 모델링하고, 근접 커널 보강이라는 새로운 설계 원칙을 제시함으로써, 거의 특이 선형 시스템에 대한 카차르즈 계열 알고리즘의 이론적 한계를 극복한다. 제안된 KaK, KaCD, KaACD 는 모두 구현이 간단하면서도 ε에 독립적인 균일 수렴률을 제공하므로, 대규모 과학·공학 시뮬레이션에서 강인하고 효율적인 선형 솔버로 활용될 전망이다.