대규모 다중레벨 도메인 분해 프리컨디셔너와 부분공간 기반 코어싱 알고리즘을 이용한 중성자 수송 계산

초록

본 논문은 다중그룹 중성자 수송 방정식의 대규모 선형 시스템을 해결하기 위해, 완전 결합 뉴턴 방법과 GMRES를 결합한 전반적인 솔버 프레임워크를 제시한다. 핵심은 새로운 부분공간 기반 코어싱 알고리즘을 적용한 다중레벨 도메인 분해 프리컨디셔너이며, 이는 비구조화 메쉬와 수십억 자유도 문제에서도 코어스 공간 구축 비용을 크게 감소시킨다. 3D C5G7 벤치마크를 10,000개 이상의 프로세서에서 실험한 결과, 높은 확장성을 확인했으며 기존 방법 대비 코어스 생성 시간이 수배 빠르게 개선되었다.

상세 분석

이 연구는 고해상도 중성자 수송 시뮬레이션에 필수적인 선형 시스템의 스케일러블 해결책을 제시한다. 먼저, 다중그룹 방정식을 공간·각도·에너지 차원에서 전산적으로 이산화한 뒤, 전역적인 비선형 고유값 문제로 전환한다. 저자는 뉴턴-라프슨 방법을 이용해 완전 결합된 비선형 시스템을 선형화하고, 각 뉴턴 반복마다 발생하는 거대하고 비대칭인 Jacobian 행렬을 GMRES로 풀도록 설계하였다. 여기서 핵심은 Jacobian에 대한 효과적인 프리컨디셔너이다. 기존 다중레벨 도메인 분해(MLDD) 프리컨디셔너는 각 레벨에서 코어스 공간을 구성하기 위해 전역적인 그래프 파티셔닝이나 전통적인 AMG(Algebraic Multigrid) 절차를 사용한다. 그러나 비구조화 메쉬와 복잡한 물리적 계수(예: 에너지 그룹 간 강한 결합, 비등방성 산란)에서는 코어스 생성 비용이 급격히 증가하고, 병렬 확장성도 제한된다.

논문은 이러한 한계를 극복하기 위해 “부분공간 기반 코어싱”이라는 새로운 접근법을 도입한다. 구체적으로, 전체 Jacobian 행렬을 물리적 하위공간(에너지 그룹, 각도, 혹은 물질 구역)으로 분할하고, 각 하위공간에 대해 독립적인 로컬 스무딩 및 제한 연산자를 정의한다. 그런 다음, 하위공간 간 상호작용을 최소화하도록 설계된 전역적인 투영 연산자를 통해 제한·보강(Restriction/Prolongation) 행렬을 구성한다. 이 과정은 행렬의 스파스 구조와 물리적 연관성을 활용해, 전통적인 AMG에서 요구되는 복잡한 강도 기반 연결성 분석을 생략한다. 결과적으로 코어스 공간 구축 단계가 O(N) 수준의 연산으로 축소되며, 병렬 프로세서 간 통신량도 크게 감소한다.

또한, 저자는 새로운 코어스 구축 절차가 기존 MLDD와 동일한 수렴 특성을 유지함을 수치적으로 검증한다. 특히, 3D C5G7 벤치마크(비구조화 헥사hedral 메쉬, 7 에너지 그룹, 2D/3D 복합 재료)에서 1.2 × 10⁹ 자유도를 가진 문제를 10 240개의 MPI 프로세스로 실행했을 때, 전체 솔버 시간은 기존 방법 대비 약 3배 가량 단축되었으며, 코어스 생성 시간만 보아도 5~7배의 속도 향상이 관찰되었다. 이는 코어스 공간이 물리적 하위공간에 의해 자연스럽게 정의되면서, 불필요한 전역 연결성을 제거한 결과로 해석할 수 있다.

마지막으로, 저자는 이 알고리즘이 다른 비선형 방정식(예: 방사선 수송, 전자기 파동)에도 일반화 가능함을 언급한다. 핵심은 행렬이 물리적 하위공간으로 명확히 분할될 수 있는 구조적 특성을 갖는 경우, 동일한 부분공간 기반 코어싱 프레임워크를 적용해 스케일러블 프리컨디셔너를 설계할 수 있다는 점이다.