GPU 기반 하이브리드 OLAP 실행 엔진 위험 인식 오프로드 전략

초록

본 논문은 현대 OLAP 시스템에서 CPU가 차지하는 정렬·조인 비용을 완화하기 위해, 기존 벡터화 실행 엔진에 선택적으로 GPU를 결합하는 하이브리드 아키텍처를 제안한다. 핵심은 키‑Only 전송과 늦은 물질화(Late Materialization) 기법으로 데이터 이동량을 최소화하고, 입력 크기·전송 바이트·후보 집합 복잡도(K, M) 등을 고려한 “Risky Gate”를 통해 GPU 오프로드 시점을 비용‑이득 분석 기반으로 결정한다. PostgreSQL 마이크로벤치마크와 GPU 프록시 실험을 통해, 항상 GPU를 사용하는 경우보다 Tail Latency(P95/P99)가 크게 개선됨을 입증한다.

상세 분석

이 논문은 OLAP 워크로드가 저장‑컴퓨팅 분리와 컬럼형 저장소 덕분에 I/O 병목을 극복했지만, 이제는 CPU가 수행하는 정렬·조인 연산이 새로운 병목으로 떠오른다는 점을 정확히 짚어낸다. 특히 Top‑K 선택과 키 기반 해시 조인 프로브는 데이터 규모가 페타바이트 수준으로 확대될 때 CPU 코어당 연산량이 급증해, 단순 코어 증설만으로는 한계에 부딪힌다. 저자는 이러한 상황을 “오프로드 패러독스”라 명명하고, GPU를 무조건 사용하기보다는 비용‑이득을 정량화한 선택적 오프로드가 필요함을 주장한다.

핵심 설계는 세 가지 요소로 구성된다. 첫째, Key‑Only 전송이다. 컬럼형 DB는 정렬·조인 키가 연속적으로 저장되므로, 키와 RowID 포인터만을 GPU로 전송해 전송량을 O(N)에서 O(N·키크기)로 크게 감소시킨다. 둘째, Late Materialization을 적용해 GPU가 반환한 포인터에 대해 호스트가 필요한 컬럼만 재조회함으로써 전체 데이터 복구 비용을 최소화한다. 셋째, Risky Gate는 입력 크기(N), 전송 바이트(B), 후보 집합 복잡도(K, M), 그리고 추정 CPU 비용(ˆC_cpu)과 실제 GPU 오프로드 비용(ˆC_gpu = 전송+커널+후처리)을 비교한다. ˆC_cpu − ˆC_gpu가 사전 정의된 임계값을 초과할 때만 GPU 경로를 활성화한다. 이 정책은 작은 N 구간에서 발생하는 커널 런치·전송 오버헤드를 회피하고, 대규모 데이터에서는 GPU의 병렬성을 활용해 Tail Latency를 크게 낮춘다.

실험에서는 PostgreSQL 16 기반 마이크로벤치마크와 NVIDIA RTX 4060 Laptop GPU를 사용해 여러 시나리오를 검증한다. Full‑Row 전송 대비 Key‑Only 전송은 전송 시간과 바이트를 각각 12배·16배 이상 감소시켰으며, Top‑K 선택에 한해 GPU 오프로드 시 전체 지연이 최대 12.9배 가속되었다. 또한, Risky Gate의 임계값(마진 ms)을 조정하면 오프로드 비율을 유연하게 제어할 수 있음을 보여준다. Break‑even 분석을 통해 CPU 정렬 비용 모델(T_cpu = a·N·log N + b)과 GPU 전체 비용 모델을 맞춰 N*≈2.7% 오차로 예측했으며, 실제 측정값과 일치한다.

이 논문은 GPU 오프로드가 언제 유리한지를 정량적으로 제시함으로써, 기존 “GPU는 언제나 빠르다”는 과도한 기대를 교정한다. 특히, 비용 모델링과 정책 기반 게이팅을 통해 실운영 환경에서의 안정적인 Tail Latency 개선을 목표로 한다는 점이 실용적이다. 향후 FPGA와의 협업, 다양한 조인 알고리즘 적용, 그리고 다중 GPU 스케줄링 등으로 확장 가능성이 높다.