가중치와 디플레이션을 이용한 대규모 실베스터 방정식 해결

초록

본 논문은 대규모 Sylvester 행렬 방정식에 대해 가중치 기반 글로벌 GMRES 알고리즘을 제안하고, 재시작 시 가중치를 잔차 기반으로 동적으로 업데이트한다. 또한, 작은 고유값을 제거하는 디플레이션 기법을 결합해 메모리와 연산 비용을 절감하면서 수렴 속도를 크게 향상시킨다.

상세 분석

실베스터 방정식 AX + XB = C 는 제어·시뮬레이션 분야에서 빈번히 등장하지만, 직접 행렬 형태로 풀면 차원이 급격히 커져 전통적인 직접 해법이 비현실적이다. 저자들은 이를 해결하기 위해 글로벌 GMRES(GMRES) 알고리즘에 가중치 D (양의 대각 행렬)를 도입한 가중치 글로벌 GMRES(W‑GLGMRES)를 설계한다. 가중치 내적 ⟨Y,Z⟩_D = trace(ZᵀDY)와 D‑노름을 사용해 Krylov 부분공간을 D‑직교화함으로써, 잔차가 큰 방향을 강조하고 작은 고유값에 의해 발생하는 수렴 저하를 완화한다.

가중치 행렬 D 는 고정된 것이 아니라, 매 재시작 단계마다 현재 잔차 R_m 의 열별 ‖·‖₂ 값을 이용해 세 가지 옵션(최대값, 최소값, 평균값) 중 하나로 재구성한다. 이 동적 업데이트는 기존 연구에서 제시된 고정 가중치보다 더 유연하게 문제 특성에 적응한다.

하지만 글로벌 GMRES는 재시작 시 Krylov 공간이 급격히 축소돼 메모리와 연산량이 급증한다는 단점을 가진다. 이를 해결하기 위해 저자들은 디플레이션 재시작(Deflated Restarting) 기법을 도입한다. 구체적으로, 현재 Krylov 기저 V_m 에서 가중치 조화 리츠(Weighted Harmonic Ritz) 쌍 (θ_i, Y_i) 을 구하고, 해당 고유벡터 Y_i 를 새로운 검색 공간에 보존한다. 이는 작은 고유값을 “디플레이트”하여 남은 스펙트럼을 효과적으로 압축한다.

이론적으로는 조화 리츠 잔차 e_Ri 와 GMRES 잔차 R_m 이 동일한 부분공간 V_{m+1} 에 속하고, D‑직교성을 공유함을 보이며, 따라서 두 잔차는 서로 스칼라 행렬 T 에 의해 선형 결합된다. 이는 디플레이션이 기존 GMRES 잔차를 손상시키지 않으며, 오히려 고유값 클러스터링을 완화해 수렴을 가속한다는 중요한 근거가 된다.

알고리즘 2와 3은 각각 가중치 업데이트와 디플레이션을 포함한 전체 흐름을 제시한다. 주요 연산은 (m+1)×m 크기의 Hessenberg 행렬 Ĥ_m 에 대한 최소 제곱 문제와 작은 차원의 일반화 고유값 문제(θ_i · HᵀH = ĤᵀĤ)이다. 따라서 전체 복잡도는 기존 글로벌 GMRES와 비슷하지만, 재시작 시 추가되는 디플레이션 단계는 O(m³) 수준의 작은 비용만 차지한다.

수치 실험에서는 다양한 크기와 스펙트럼을 가진 Sylvester 방정식에 대해 기존 GLGMRES, 가중치 GLGMRES, 그리고 제안된 가중치‑디플레이션 GLGMRES를 비교한다. 결과는 제안 알고리즘이 반복 횟수와 CPU 시간 모두에서 현저히 우수함을 보여준다. 특히, 가중치 행렬을 동적으로 조정한 경우(옵션 1~3)와 디플레이션을 결합했을 때 가장 빠른 수렴을 기록한다. 또한, 기존 연구에서 제시된 가중치‑GMRES‑DR와 달리 비대각 가중치 행렬을 도입하지 않아 구현이 간단하고 메모리 오버헤드가 거의 없다는 장점도 강조한다.

전반적으로 이 논문은 가중치와 디플레이션이라는 두 개의 독립적인 가속 기법을 효과적으로 결합함으로써, 대규모 Sylvester 방정식에 대한 실용적인 솔루션을 제공한다. 이 접근법은 다른 다중 RHS 선형 시스템이나 블록 Krylov 방법에도 확장 가능성이 높다.