고차 차분법 기반 p‑멀티그리드와 행렬‑프리 솔버를 이용한 난류 유동 시뮬레이션 고속화

초록

본 논문은 불압축성 난류 흐름을 위한 고차 불연속Galerkin(dG) 방법에 행렬‑프리(FGMRES)와 p‑멀티그리드 사전조건자를 결합한 메모리 절감 및 스케일링 가능한 솔루션 전략을 제시한다. Rosenbrock형 선형‑암시적 Runge‑Kutta 시간 적분과, 미세 수준에서는 블록 대각선(EWBJ) 스무더, 거친 수준에서는 Additive Schwarz 스무더를 사용한다. 재스케일링된 상속(coarse) 연산자를 도입해 안정성을 확보하고, 2‑D 원통, 3‑D 구, ERCOFTAC T3L, 보잉 착륙기어 등 다양한 검증 사례에서 메모리 사용량 감소와 실행 시간 단축을 입증하였다.

상세 분석

이 연구는 고차 dG 공간이 제공하는 뛰어난 분산·소산 특성을 유지하면서, 대규모 불압축성 Navier‑Stokes 방정식의 비정형 행렬을 직접 저장하지 않는 행렬‑프리(FGMRES) 반복법을 기반으로 한다. Rosenbrock형 선형‑암시적 Runge‑Kutta 스키마는 매 타임스텝마다 한 번만 Jacobian을 조립하도록 설계돼, 시간 적분 비용을 크게 낮춘다. 핵심은 p‑멀티그리드 사전조건자이다. 가장 미세한 p‑레벨에서는 원소별 블록 대각선(EWBJ) 프리컨디셔너를 적용해 행렬 조립과 메모리 할당을 최소화한다. 반면, 코어스 레벨에서는 전통적인 행렬 기반 GMRES와 Additive Schwarz(AS) 스무더를 결합해 강력한 전역 결합성을 확보한다. 특히, 기존 상속 방식이 과도한 점성 안정화 항을 전달해 수렴을 저해하는 문제를 해결하기 위해, ‘재스케일링된 상속’ 기법을 도입하였다. 이는 코어스 연산자를 적절히 스케일링함으로써, 점성 항과 대류 항 사이의 균형을 유지하고, 특히 대류가 지배적인 난류 시뮬레이션에서 수렴 속도를 크게 개선한다.

이러한 설계는 메모리 사용량을 다항식 차수 k에 대해 O(k²)에서 O(k) 수준으로 감소시키며, 병렬 환경에서 도메인 분할 기반의 스케일링을 통해 수천 코어까지 효율적으로 확장된다. 실험 결과는 미세한 메쉬와 고차 다항식(k≥4)에서도 전통적인 행렬 기반 사전조건자 대비 2~3배 이상의 속도 향상을 보여준다. 또한, 블록 대각선 스무더만을 사용할 경우 발생할 수 있는 수렴 저하 현상을 코어스 레벨의 AS 스무더가 효과적으로 보완한다는 점이 강조된다.