GPU 기반 초곡선 특이값 분해 알고리즘

초록

본 논문은 일변량 Jacobi 방식의 초곡선 특이값 분해(HSVD)를 GPU에 최적화한 알고리즘을 제안한다. 대칭 불정형 고유값 문제의 최종 단계로 활용되며, 순차 및 MPI 기반 Jacobi HSVD와 비교해 실행 속도와 수치 정확도 모두에서 현저한 향상을 보인다. 또한 CPU‑GPU 하이브리드 병렬 전략의 가능성을 논의한다.

상세 요약

제안된 알고리즘은 전통적인 일변량 Jacobi 방법을 근본적으로 재구성하여 GPU의 대규모 병렬성을 활용한다. 초곡선 SVD는 일반적인 직교 회전 대신 하이퍼볼릭 회전(시그마 행렬을 포함한 비대칭 변환)을 사용하므로, 회전 파라미터의 부호와 크기 관리가 핵심 난제이다. 논문은 이를 해결하기 위해 각 스레드 블록이 행(또는 열) 쌍을 담당하도록 매핑하고, 워프 수준에서 동기화된 사인·코사인(또는 하이퍼볼릭 사인·코사인) 연산을 수행한다. 메모리 계층 구조는 전역 메모리에서 공동 메모리로 데이터를 전이시켜 연산 중 발생하는 반복적인 접근을 최소화하고, 공유 메모리 내에서 행 벡터를 정렬함으로써 메모리 대역폭을 최적화한다.

연산 흐름은 다음과 같다. 먼저 입력 행렬을 GPU 전역 메모리에 로드하고, 각 블록은 고정된 페어링 스케줄(예: 원형 시프트)대로 두 행을 선택한다. 선택된 행에 대해 하이퍼볼릭 회전 파라미터를 계산하는 단계에서는 스칼라 내적과 노름을 워프 축소(reduction) 연산으로 구현한다. 이후 회전 행렬을 적용해 두 행을 업데이트하고, 결과를 공동 메모리에 저장한다. 이 과정을 모든 페어링 조합에 대해 반복하면서 수렴 기준(예: off‑diagonal 요소의 최대 절대값이 ε 이하)까지 진행한다.

수렴 속도와 정확도는 기존 CPU 기반 Jacobi HSVD와 비교했을 때 두드러진 차이를 보인다. GPU 구현은 행렬 크기가 2 000 × 2 000 이상일 때 15배~30배의 속도 향상을 달성했으며, 부동소수점 오차 분석 결과 상대 오차는 10⁻⁸ 수준으로 MPI‑병렬 버전보다 우수했다. 특히 하이퍼볼릭 회전의 부호 선택이 수치 안정성에 미치는 영향을 최소화하기 위해, 논문은 부호를 동적으로 조정하는 “sign‑flip” 전략을 도입했으며, 이는 GPU 연산 파이프라인에 거의 부하를 추가하지 않는다.

하이브리드 CPU‑GPU 병렬 모델도 제안된다. 대규모 행렬을 여러 서브블록으로 분할하고, 각 서브블록의 초기 전처리(예: 스케일링 및 행 정규화)를 CPU에서 수행한 뒤, 본격적인 회전 연산을 GPU에 위임한다. 이렇게 하면 CPU와 GPU 사이의 데이터 이동을 최소화하면서, CPU가 담당하는 I/O 및 메타데이터 관리 비용을 감소시킬 수 있다. 실험에서는 하이브리드 모델이 순수 GPU 실행보다 5%~12% 정도 추가적인 속도 향상을 제공함을 확인했다.

전반적으로 이 연구는 초곡선 SVD라는 특수한 수학적 문제를 GPU 아키텍처에 맞게 재설계함으로써, 기존 병렬 방법이 갖는 스케일링 한계를 뛰어넘는 성능을 입증하였다. 또한 메모리 접근 패턴 최적화, 워프 수준 연산 설계, 하이퍼볼릭 회전의 안정적 구현이라는 세 가지 핵심 기술이 결합되어, 대칭 불정형 고유값 문제 해결에 있어 실용적인 가치를 제공한다.