GPU 기반 GMRES 구현 성능 비교

초록

본 논문은 R 환경에서 GMRES(Generalized Minimal Residual) 방법을 GPU로 가속화한 구현을 제시하고, 순수 단일 스레드 CPU 버전과의 실행 시간 차이를 정량적으로 평가한다. CUDA와 OpenCL 기반의 gmatrix, gputools, gpuR 패키지를 활용하여 다양한 하드웨어와 소프트웨어 조합에서 성능을 측정하고, 데이터 크기와 스파스성에 따른 가속 효율을 분석한다. 결과는 중대형 행렬(수천수만 차원)에서 GPU 가속이 5배30배 정도의 속도 향상을 제공함을 보여준다.

상세 분석

이 연구는 R 언어가 기본적으로 싱글 스레드 모델에 머물러 있어 현대 멀티코어·GPU 환경을 충분히 활용하지 못한다는 문제점을 출발점으로 삼는다. GMRES는 비대칭·비정방 행렬의 선형 시스템을 해결하는 데 널리 쓰이는 Krylov 서브스페이스 기반 반복법이며, 매 반복마다 행렬‑벡터 곱과 정규 직교화 과정이 요구된다. 이러한 연산은 대규모 행렬에 대해 고도로 병렬화가 가능한데, 특히 행렬‑벡터 곱은 GPU의 SIMD 구조와 메모리 대역폭을 최대한 활용할 수 있다.

논문은 세 가지 R‑GPU 인터페이스(gmatrix, gputools, gpuR)를 선택한 이유를 상세히 설명한다. gmatrix는 CUDA 전용이며, 저수준 커널 호출을 지원해 세밀한 최적화가 가능하지만 사용법이 복잡하다. gputools는 CUDA와 OpenCL을 모두 포괄하지만, 내부 구현이 비교적 얕아 고성능을 내기 위해서는 추가 튜닝이 필요하다. gpuR는 최신 R 패키지로, OpenCL 기반의 추상화 레이어를 제공해 플랫폼 독립성을 보장하면서도 자동 메모리 관리와 벡터화 연산을 지원한다.

구현 단계에서는 (1) 초기 잔차 계산, (2) Arnoldi 과정에서의 정규 직교화, (3) 최소 잔차 해 찾기, (4) 해 업데이트 네 단계 모두를 GPU 메모리 상에서 수행하도록 설계했다. 특히 Arnoldi 과정에서 발생하는 내적과 정규화 연산은 cuBLAS와 clBLAS 라이브러리를 직접 호출해 부동소수점 연산의 정확성을 유지하면서도 병렬 효율을 극대화했다. 또한, GPU‑CPU 간 데이터 전송을 최소화하기 위해 중간 결과를 모두 GPU 메모리 내에 보관하고, 최종 해만을 CPU로 복귀하도록 했다.

실험은 두 종류의 하드웨어(NVIDIA GTX 1080 Ti, AMD Radeon VII)와 다양한 행렬 특성을 고려했다. 행렬 차원은 1,000에서 30,000까지, 밀도는 0.1%에서 5%까지 변동시켰으며, 각 설정에서 10번 반복 실행 후 평균 실행 시간을 기록했다. 결과는 (a) 작은 행렬(≤2,000)에서는 전송 오버헤드가 지배적이어서 GPU 가속 효과가 미미하거나 오히려 느려지는 현상이 관찰되었고, (b) 중대형대형 행렬(≥5,000)에서는 GPU 구현이 CPU 단일 스레드 대비 5배30배 빠른 성능을 보였다. 특히, 행렬이 희소할수록 메모리 대역폭 활용도가 높아져 가속 비율이 상승했으며, gpuR가 OpenCL 기반으로 플랫폼 독립성을 유지하면서도 gmatrix에 버금가는 성능을 기록했다.

한계점으로는 (i) 현재 구현이 다중 GPU 확장성을 지원하지 않아 메모리 용량이 제한적이며, (ii) 정밀도(단정밀 vs 배정밀) 선택에 따라 수렴 속도가 달라질 수 있음에도 불구하고 자동 선택 로직이 부재함을 들었다. 또한, R 자체의 GC(가비지 컬렉션)와 메모리 복사 비용이 전체 파이프라인에 영향을 미쳐, 최적화 여지가 남아 있다.

전반적으로 이 논문은 R 사용자가 고성능 선형대수 연산을 손쉽게 활용할 수 있는 실용적인 길을 제시하며, GMRES와 같은 복합 반복법을 GPU 가속화하는 구체적 설계와 성능 평가를 통해 향후 통계·머신러닝 패키지 개발에 중요한 참고 자료가 될 것이다.