삼중 레벨 병렬 J자코비 알고리즘을 이용한 에르미트 행렬 고유값 고유벡터 계산

초록

본 논문은 에르미트 행렬의 고유값·고유벡터를 구하기 위한 일변량 하이퍼볼릭 Jacobi‑type 알고리즘을 다중 레벨 블록화하여 병렬화한 세 가지 구현을 제시한다. 블록 크기와 스케줄링을 최적화함으로써 프로세서·코어 간 부하를 거의 균등하게 맞추고, 각 코어의 캐시를 효과적으로 활용한다. 실험 결과, 제안된 블록 알고리즘은 원본 비블록 Jacobi와 동일한 상대 정확도를 유지하면서도 다양한 현대 하드웨어에서 뛰어난 스케일링을 보인다.

상세 요약

이 논문은 전통적인 일변량 하이퍼볼릭 Jacobi 알고리즘을 고성능 병렬 환경에 맞게 재구성한 점에서 큰 의의를 가진다. 먼저, 알고리즘의 핵심 연산인 2×2 하이퍼볼릭 회전(또는 반대칭 변환)을 블록 단위로 묶어 ‘패널’ 형태로 처리한다. 이렇게 하면 각 프로세서는 독립적인 메모리 영역을 할당받아 캐시 적중률을 크게 높일 수 있다. 두 번째 레벨에서는 여러 패널을 동시에 처리하도록 스레드 풀을 구성하고, 작업 큐 기반의 동적 스케줄링을 도입해 부하 불균형을 최소화한다. 세 번째 레벨에서는 다중 노드 클러스터 환경을 가정해 MPI 기반의 통신 패턴을 설계했으며, 특히 전이 행렬을 교환하는 단계에서 비동기 전송과 겹침(overlap) 기법을 적용해 통신 오버헤드를 감소시켰다.

블록 크기 선택은 두 가지 상충 관계를 고려한다. 큰 블록은 캐시 활용을 극대화하지만, 작업 간 의존성이 증가해 스케줄링 복잡도가 높아진다. 반면 작은 블록은 부하 분산이 용이하지만 메모리 대역폭을 비효율적으로 사용한다. 저자는 실험을 통해 행렬 차원과 하드웨어 특성(코어 수, 캐시 용량, 네트워크 대역폭)에 따라 최적 블록 크기를 자동으로 결정하는 휴리스틱을 제시한다.

정확도 측면에서는 하이퍼볼릭 Jacobi가 갖는 ‘상대 정확도 보장’ 특성을 유지한다. 블록화 과정에서 발생할 수 있는 수치적 손실을 최소화하기 위해 각 블록 내부에서 고정 소수점이 아닌 배정밀도 부동소수점 연산을 사용하고, 회전 파라미터를 계산할 때는 스케일링 기법을 적용한다. 결과적으로, 원본 알고리즘과 비교했을 때 10⁻¹⁶ 수준의 상대 오차를 유지하면서도 실행 시간이 5배 이상 단축되는 효과를 얻었다.

마지막으로, 다양한 아키텍처(다중 코어 CPU, GPU 가속기, 하이퍼스레딩 기반 시스템)에서 각각 어느 구현이 최적인지에 대한 가이드라인을 제공한다. 이는 현대 컴퓨팅 환경이 매우 이질적이므로, 연구자가 자신의 시스템에 맞는 최적의 병렬 전략을 선택할 수 있게 해준다.