2차원 분수 확산 방정식의 고속 해법: 계층 행렬 활용

초록

본 논문은 시간-공간 분수 확산 방정식을 암시적 Euler와 유한 차분·유한요소 방식으로 이산화한 뒤, 1차원에서 발생하는 밀집 행렬이 H‑matrix와 HODLR 형태의 저계급 구조를 갖는 것을 증명한다. 오프‑대각 블록의 계급을 정량적으로 추정하고, 이를 이용해 HODLR 연산으로 직접 해를 구하는 방법을 제시한다. 또한 2차원 문제를 Sylvester 형태의 행렬 방정식으로 변환하여 동일한 계층 구조를 활용, 기존 Toeplitz‑기반 전처리 GMRES보다 높은 효율을 보임을 실험적으로 확인한다.

상세 분석

논문은 먼저 1차원 공간‑분수 미분 연산자를 Riemann‑Liouville와 Grünwald‑Letnikov 두 정의에 따라 유한 차분(FD)과 유한 요소(FE) 방식으로 이산화한다. FD 스키마에서는 전진·후진 Grünwald 계수를 이용해 Toeplitz‑유사 행렬 (T_{\alpha,N}) 를 구성하고, 시간 단계마다 대각 행렬 (D^{\pm}(m)) 와 결합된 시스템 행렬 (M_{FD,m}^{\alpha,N}=I+\Delta t,\Delta x^{-\alpha}(D^{+}T_{\alpha,N}+D^{-}T_{\alpha,N}^{T})) 를 얻는다. FE 스키마에서는 비대칭 Riemann‑Liouville 적분을 기반으로 비대칭 강체 행렬을 만든다. 두 경우 모두 행렬이 전역적으로 밀집하지만, 오프‑대각 블록은 급격히 감소하는 그린 함수 특성 때문에 저계급 근사 가능함을 GLT 이론과 구조 행렬 분석을 통해 증명한다. 구체적으로, 행렬의 ((i,j)) 원소는 (|i-j|^{-(\alpha+1)}) 형태의 커널을 갖고, 이를 적절히 클러스터링하면 오프‑대각 블록의 수치 계급이 (O(\log(1/\varepsilon)\log N)) 로 제한된다.

이러한 계급 구조를 활용해 HODLR(Hierarchically Off‑Diagonal Low‑Rank) 포맷을 채택한다. HODLR은 재귀적으로 행렬을 2×2 블록으로 분할하고, 각 오프‑대각 블록을 저계급 SVD 근사로 저장한다. 논문은 HODLR 구축 비용이 (O(N\log^{2}N)), 저장량이 (O(N\log N)) 임을 보이며, LU 분해와 같은 직접 해법을 HODLR 연산으로 수행하면 전체 복잡도가 (O(N\log^{2}N)) 로 감소한다. 이는 기존 Toeplitz 기반 GMRES 전처리(복잡도 (O(N\log N)) 이지만 반복 횟수에 크게 의존)보다 시간 단계가 적을 때 특히 유리하다.

2차원 문제는 변수 분리를 통해 (U_t = A U + U B^{T} + F) 형태의 Sylvester 방정식으로 변환한다. 여기서 (A,B)는 1차원에서 얻은 저계급 구조 행렬이며, 오른쪽 항 (F)는 저계급(또는 압축 가능한) 형태를 가진다. Kronecker 구조를 이용해 연산을 HODLR 형태로 유지하면서 Bartels‑Stewart 혹은 ADI(Alternating Direction Implicit) 방법을 적용하면, 전체 복잡도가 (O(N^{2}\log^{2}N)) 로 2차원 격자 (N\times N) 에 대해 선형‑다항 로그 스케일을 달성한다.

수치 실험에서는 다양한 (\alpha) 값, 비균일 격자, 시간 단계 수를 변동시켜 HODLR 기반 직접 해법과 기존 전처리 GMRES, 그리고 확장 Krylov(Extended Krylov) 방법을 비교한다. 결과는 HODLR이 메모리 사용량을 10배 이상 절감하고, 특히 시간 단계가 1020 이하일 때 전체 실행 시간이 25배 빠름을 보여준다. 또한 2차원 사례에서 제안된 Sylvester‑HODLR 솔버가 최신 멀티그리드·전처리 조합을 능가함을 확인한다.

전반적으로 논문은 분수 미분 연산자의 비국소성에도 불구하고 행렬이 저계급 오프‑대각 구조를 갖는다는 새로운 이론적 통찰을 제공하고, 이를 실용적인 HODLR 알고리즘으로 구현함으로써 1D·2D 분수 확산 방정식의 고성능 해법을 제시한다.