분산 메모리 환경을 위한 효율적인 하이브리드 삼대각 분할정복 알고리즘

초록

본 논문은 ScaLAPACK 기반의 대칭 삼대각 행렬 고유값 문제를 해결하기 위해, 중간 단계에서 발생하는 대규모 행렬 곱셈을 HSS(계층적 반분리) 구조로 압축하고 STRUMPACK 라이브러리를 이용해 가속화한 병렬 하이브리드 분할정복(PHDC) 알고리즘을 제안한다. 실험 결과, 결함(deflation)이 적은 행렬에 대해 수백 프로세스 환경에서 MKL‑DC보다 빠르지만, 프로세스 수가 300 이상으로 늘어날 경우 확장성이 떨어져 ELPA·MKL보다 성능이 저하된다.

상세 분석

본 연구는 대칭 삼대각 행렬의 고유값·고유벡터를 구하는 전통적인 분할정복(DC) 알고리즘이 행렬‑행렬 곱셈(MMM) 단계에서 대부분의 연산 비용을 차지한다는 점에 주목한다. 특히, Cuppen의 DC 절차에서 생성되는 중간 행렬 Q는 Cauchy‑like 구조를 가지며, 오프‑대각선이 저‑랭크인 HSS 형태로 근사될 수 있다. 저자들은 이 특성을 활용해, ScaLAPACK의 PDLAED1/PDLAED2 루틴에서 PDGEMM 대신 STRUMPACK의 HSS 행렬 곱셈을 호출하도록 수정하였다.

핵심 기술은 다음과 같다.

1. HSS 압축 및 랜덤 샘플링: STRUMPACK의 RandHSS 알고리즘을 이용해 Q 행렬을 O(N·r) 플롭으로 압축한다. 여기서 r은 실제 오프‑대각선 랭크(대략 50100)이며, 오버샘플링 파라미터 p는 1020으로 설정한다.
2. 분산 HSS 구축: HSS 트리를 기반으로 각 노드에 대한 D, U, V, B 생성자를 병렬적으로 생성한다. 이 과정은 MPI와 OpenMP를 혼합해 구현되며, 메모리 오버헤드가 존재하지만 HSS 랭크가 작을 경우 허용 가능한 수준이다.
3. HSS 기반 행렬‑행렬 곱: 압축된 Q와 대각 행렬 D의 곱을 HSS‑to‑dense 연산으로 수행한다. 기존 PDGEMM이 O(N³) 연산을 요구하는 반면, HSS 곱은 O(N²·r)으로 비용을 크게 절감한다.
4. Deflation 처리와 Permutation: 결함이 발생하면 행렬을 블록 대각 형태로 재배열하고, Gu의 Permutation 전략을 적용한다. 그러나 Permutation이 오프‑대각선 저‑랭크 구조를 파괴할 수 있기에, 큰 K(Deflated matrix size)일 때만 HSS를 적용하고, 작은 경우에는 기존 PDGEMM을 그대로 사용한다.

성능 평가에서는 Tianhe‑2 슈퍼컴퓨터(수천 코어)에서 10⁴~10⁵ 차원의 삼대각 행렬을 대상으로 실험하였다. 결과는 다음과 같다.

• MKL‑DC 대비: 결함이 거의 없고 행렬 크기가 2⁶2⁸ 정도일 때, 200300 프로세스 환경에서 평균 1.3~1.8배 속도 향상을 보였다.
• ELPA 대비: 비슷한 조건에서 ELPA보다 약간 뒤처지지만, ELPA가 내부적으로 블록 대각화와 재귀적 재배열을 사용하기 때문에 확장성에서는 ELPA가 우수했다.
• 스케일링 한계: 프로세스 수가 300을 초과하면 HSS 구축 및 통신 비용이 급증한다. 특히, HSS 생성 시 필요로 하는 랜덤 샘플링 벡터와 샘플 행렬을 전역적으로 교환해야 하므로, 통신량 O(p·N·r) 가 제한 요인으로 작용한다. 결과적으로 500~600 프로세스에서는 PDGEMM 기반 DC가 여전히 더 빠르다.

이 논문은 HSS 기반 가속이 “큰 행렬·적은 결함” 상황에서 유효함을 입증했지만, 메모리 사용량 증가와 통신 오버헤드가 확장성을 저해한다는 한계를 명확히 제시한다. 향후 연구 방향으로는 동적 HSS 랭크 추정, 비동기식 샘플링, 그리고 GPU 가속 HSS 연산을 결합해 통신‑연산 균형을 맞추는 방안이 제시된다.