다중 스레드 아키텍처에서 밀집 일반화 고유값 문제 해결

초록

본 논문은 대규모 밀집 대칭 양정(positive‑definite) 일반화 고유값 문제(GSYEIG)를 해결하기 위해 두 가지 방법—삼중대각화 변환과 Krylov‑subspace 반복—을 비교한다. 8코어 CPU와 NVIDIA GPU가 장착된 최신 워크스테이션에서 두 실제 응용(분자 동역학과 밀도 함수 이론) 사례를 실험하여, 특히 GPU 가속 환경에서 Krylov‑subspace 방법이 경쟁력을 갖는다는 결론을 제시한다.

상세 분석

논문은 먼저 일반화 고유값 문제 AX = B X Λ를 대칭‑양정 행렬 B에 대해 Cholesky 분해 B = U T Uᵀ(또는 U T U)로 변환하고, 이를 통해 표준 고유값 문제 C Y = Y Λ (C = U⁻ᵀ A U⁻¹) 로 바꾼다. 이 변환 단계는 n³/3 FLOP 정도의 비용이 들며, 메모리 요구량은 기존 A와 B를 재사용해 추가적인 n×n 배열이 필요하지 않도록 설계된다.

두 번째 단계에서 논문은 (1) 삼중대각화(Tridiagonal‑reduction)와 (2) Krylov‑subspace(특히 Lanczos) 방법을 상세히 비교한다. 삼중대각화는 다시 두 변형으로 나뉜다. 첫 번째 변형(td)은 직접 Householder 변환을 이용해 C를 삼중대각 형태 T 로 변환하고, MR³ 같은 전용 삼중대각 고유값 해석기를 사용한다. 이 경우 전체 연산량은 4 n³/3 FLOP(삼중대각화) + O(n s) FLOP(고유값·벡터 회수)이며, 메모리 오버헤드가 거의 없다. 두 번째 변형(tt)은 C를 먼저 밴드 형태(W)로 축소한 뒤, 레벨‑3 BLAS를 활용해 효율적으로 삼중대각화한다. 이 과정은 추가적인 4 n³/3 FLOP와 Q₁·Q₂와 같은 정규 직교 행렬을 명시적으로 구성해야 하므로 메모리 사용량이 n² 정도 증가한다.

Krylov‑subspace 접근은 Lanczos 절차를 기반으로 하며, C·v 형태의 행렬‑벡터 곱을 반복한다. 변형 ke는 C를 명시적으로 구성한 뒤 2 n² FLOP의 행렬‑벡터 곱을 수행한다. 변형 ki는 C를 암시적으로 다루어 매 반복마다 U⁻¹·w와 A·(U⁻¹·w)·U⁻ᵀ를 차례로 계산해 4 n² FLOP가 소요된다. Lanczos 과정에서 정규성 손실을 보완하기 위해 두 번의 재직교화(또는 Kahan‑style 재직교화)를 적용한다. 이 경우 최악의 경우 O(m n) FLOP가 추가되며, 재시작 단계는 O(n m²) FLOP를 요구한다.

실험 설정은 두 실제 응용을 사용한다. 첫 번째는 내부 좌표 기반 정상 모드 분석(NMA)으로, n≈10 000, s≈1 % 정도의 가장 작은 고유쌍을 필요로 한다. 두 번째는 밀도 함수 이론(DFT)에서의 자체 일관적 전자 구조 계산으로, n≈30 000~100 000 규모이며, 역시 소수의 저에너지 고유값만을 요구한다. 두 응용 모두 A와 B가 완전 밀집이며 B는 SPD이다.

플랫폼은 Intel Xeon 8‑core CPU와 NVIDIA “Fermi” GPU를 결합한 하이브리드 시스템이며, 사용된 라이브러리는 LAPACK/BLAS, PLASMA, MAGMA, libflame 등이다. 실험 결과는 다음과 같다. (i) 삼중대각화 기반 방법은 CPU‑전용 BLAS에서 높은 효율을 보였지만, GPU 가속을 활용할 경우 메모리 전송 비용과 삼중대각화 단계의 레벨‑2 BLAS 비중 때문에 전체 실행 시간이 크게 개선되지 않았다. (ii) Krylov‑subspace 방법은 행렬‑벡터 곱을 GPU에서 수행함으로써 2~3배 정도의 속도 향상을 얻었으며, 특히 큰 n에서 재직교화 비용이 전체 비중을 차지하지 않을 정도로 충분히 빠르게 수렴했다. (iii) 두 방법 모두 초기 변환 단계(Cholesky 및 C 구성)의 비용이 O(n³) 이므로, s가 매우 작을 때는 Krylov‑subspace가 전체 실행 시간을 지배적으로 줄일 수 있었다.

결론적으로, 밀집 GSYEIG 문제에서도 전통적으로 선호되던 삼중대각화 방식보다, 멀티코어·GPU 혼합 아키텍처에서는 Krylov‑subspace 반복이 더 유리함을 실험적으로 입증하였다. 선택 기준은 요구되는 고유쌍의 수, 목표 하드웨어, 그리고 메모리 대역폭에 대한 고려가 필요하다. 향후 연구에서는 블록‑Lanczos, 스펙트럼 변환(예: Shift‑and‑Invert) 및 더 정교한 GPU‑전용 스케줄링을 통해 성능을 추가로 끌어올릴 여지가 있다.