재활용 전처리 Krylov 부분공간 방법을 이용한 자기수반 문제 해결

초록

본 논문은 뉴턴 반복 과정 등에서 발생하는 자기수반 선형 시스템의 연속적인 해를 효율적으로 구하기 위해, MINRES 기반의 재활용 Krylov 부분공간 기법을 제안한다. 이전 단계에서 얻은 Ritz 벡터를 다음 단계의 자기수반 디플레이션에 활용하고, 임의의 내적과 양정(正) 정의 전처리자를 허용한다. 비선형 슈뢰딩거 방정식 실험을 통해 재활용이 계산 시간을 크게 단축함을 보였다.

상세 분석

이 연구는 자기수반(자기공변) 연산자를 포함하는 선형 시스템을 연속적으로 해결해야 하는 상황, 특히 비선형 방정식의 뉴턴-카우치 방법에서 발생하는 Jacobian 시스템에 초점을 맞춘다. 기존 Krylov 부분공간 방법인 MINRES는 자기수반성과 양정 전처리자를 전제로 수렴성을 보장하지만, 매 반복마다 새로운 Krylov 기저를 생성하므로 연산 비용이 누적된다. 논문은 이러한 비효율성을 해소하기 위해 “재활용”(recycling) 전략을 도입한다. 구체적으로, 현재 MINRES 실행이 종료될 때까지 생성된 Krylov 공간에서 Ritz 값과 대응하는 Ritz 벡터를 추출한다. Ritz 벡터는 원래 시스템의 근사 고유벡터 역할을 하며, 다음 선형 시스템에 대해 디플레이션(Deflation) 연산에 사용된다. 디플레이션은 선택된 Ritz 벡터를 직교화하고, 해당 방향으로 시스템을 투영함으로써 작은 고유값에 의한 수렴 저하를 방지한다.

핵심은 이 과정이 임의의 내적 ⟨·,·⟩_M을 허용한다는 점이다. 전처리 행렬 M이 양정이고 M⁻¹을 고정밀도로 적용할 수 있으면, ⟨x,y⟩_M = xᵀMy 로 정의된 내적 공간에서 자기수반성을 유지한다. 따라서 전처리된 연산자 Ã = M⁻¹A는 여전히 자기수반이며, MINRES와 재활용 절차가 동일한 수학적 기반 위에서 작동한다.

알고리즘은 크게 네 단계로 구성된다. (1) 현재 시스템에 대해 전처리된 MINRES 실행, (2) 수렴 직전 Krylov 기저에서 k개의 Ritz 벡터 선택, (3) 선택된 벡터를 M-정규 직교화하고 투영 연산자를 구성, (4) 다음 시스템에 동일한 전처리와 함께 디플레이션된 MINRES를 실행한다. 이때 전처리자는 고정된 형태이지만, 시스템 행렬 A는 뉴턴 단계마다 변동한다. 변동이 작을 경우 Ritz 벡터가 새로운 시스템에서도 유효한 근사 고유벡터가 되므로, 디플레이션 효과가 크게 나타난다.

수치 실험에서는 2D 및 3D 비선형 슈뢰딩거 방정식의 정적 솔루션을 구하기 위해 Newton–Krylov 프레임워크를 적용하였다. 전처리로는 대규모 스펙트럼을 효과적으로 클러스터링하는 다중 격자(Algebraic Multigrid) 기반의 양정 전처리자를 사용하였다. 실험 결과, 재활용 없이 순수 MINRES를 적용했을 때 평균 45회 이상의 반복이 필요했으나, 5개의 Ritz 벡터를 재활용했을 경우 평균 12회 이하로 감소하였다. 전체 실행 시간도 약 70% 이상 단축되었으며, 메모리 사용량은 추가적인 직교화 과정 외에는 크게 증가하지 않았다.

이 논문은 자기수반성, 전처리, 그리고 재활용이라는 세 축을 동시에 만족시키는 최초의 Krylov 방법 중 하나로 평가될 수 있다. 특히 전처리 행렬의 역을 고정밀도로 계산할 수 있는 상황(예: 멀티그리드, 대각선 스케일링)에서 강건하게 동작한다는 점이 실용적이다. 다만, Ritz 벡터 선택 기준(예: 고유값 크기, 잔차)과 재활용 주기(매 단계 혹은 일정 간격) 등에 대한 자동화된 전략이 아직 미비하며, 비자기수반 시스템이나 비선형 전처리자에 대한 확장은 향후 연구 과제로 남는다.