고차 유한요소 시스템을 위한 기하학 기반 대수적 멀티그리드 사전조건자

초록

본 논문은 고차 유한요소(HO‑FEM) 해석에 특화된 기하학 정보를 활용한 대수적 멀티그리드(GIAMG) 방법을 제안한다. p‑코어싱을 먼저 적용해 요소 내부 차수를 낮추고, 이후 전통적인 AMG 기반 h‑코어싱을 수행함으로써 연산량과 메모리 사용을 크게 감소시킨다. 3차원 Helmholtz 및 비압축성 흐름 문제에 대한 실험에서 격자 독립적인 수렴, 뛰어난 병렬 확장성, 기존 Hypre·ML 대비 우수한 성능을 입증하였다.

상세 분석

이 연구는 고차 유한요소 시스템, 특히 스펙트럴/ hp‑요소와 같이 다항식 차수가 4 이상인 경우에 발생하는 행렬의 고밀도·비대칭성 문제를 해결하기 위한 새로운 전처리 기법을 제시한다. 기존 AMG는 행렬 구조만을 이용해 코어스 레벨을 결정하므로, 고차 요소에서 발생하는 급격한 스파스성 감소와 연산 비용 폭증을 피할 수 없었다. 저자들은 이러한 한계를 극복하기 위해 ‘기하학 기반’ 정보를 최소한으로 활용한다. 구체적으로, 각 요소의 자유도(dof)와 그들이 속한 다항식 차수를 알려주는 l2g 매핑을 입력받아, p‑코어싱 단계에서 차수를 절반 혹은 1/3 수준으로 낮춘다. 이 과정은 요소 내부에서만 수행되므로 메쉬 토폴로지는 변하지 않으며, 고차 행렬이 저차 행렬로 급격히 스파스해지는 효과를 얻는다.

p‑코어싱이 끝난 뒤에는 전통적인 AMG(여기서는 Smoothed‑Aggregation AMG인 SA‑AMG)를 이용해 h‑코어싱을 진행한다. 이때 사용되는 제한·보강 연산자는 p‑코어싱 단계에서 생성된 저차 기반을 그대로 활용하므로, 보강 행렬의 비제로 원소는 0 또는 1에 불과해 메모리 대역폭 요구가 크게 감소한다. 또한, Galerkin 투영 A_c = R A_f P 를 통해 코어스 연산자를 재구성함으로써 수치적 일관성을 유지한다.

알고리즘 구현 측면에서는 Chebyshev 다항식 기반 가속 Jacobi 스무더를 프리·포스트 스무딩에 적용했으며, 가장 거친 레벨에서는 직접 해석기( SuperLU )를 사용한다. 병렬 구현은 MPI 기반으로, 각 레벨의 매핑과 행렬·벡터 분산을 효율적으로 관리해 대규모 클러스터에서도 10,000 코어 이상에서 거의 선형 확장성을 보였다.

실험에서는 3차원 Helmholtz 연산자(p=8)와 비압축성 Navier‑Stokes( p=5 ) 문제를 대상으로, GIAMG가 기존 Hypre( BoomerAMG )와 ML( Trilinos )보다 1.5~2배 빠른 수렴 속도와 낮은 메모리 사용량을 기록했다. 특히, 격자 독립적인 수렴률이 유지되는 점은 p‑코어싱이 연산 복잡도를 크게 낮추면서도 다중그리드의 전형적인 스무딩 효과를 보존한다는 것을 의미한다.

제한점으로는 현재 GIAMG가 대칭 양의 정부호 행렬에만 적용 가능하다는 점과, 기하학 정보(l2g 매핑)를 외부 라이브러리에서 제공받아야 한다는 점을 들 수 있다. 저자들은 향후 비대칭 Navier‑Stokes 전반에 적용하기 위한 스키마와, 행렬만으로 자동 l2g 매핑을 추출하는 알고리즘 개발을 계획하고 있다. 전반적으로, 고차 유한요소 해석에 필요한 스케일러블하고 오픈소스인 사전조건자를 제공한다는 점에서 학계·산업계 모두에 큰 의미를 가진다.