GPU 결정적 샘플 정렬

초록

본 논문은 다중코어 GPU 환경에서 동작하는 결정적 샘플 정렬 알고리즘인 GPU Bucket Sort를 제안한다. 기존 비교 기반 정렬인 Thrust Merge보다 현저히 빠르며, 무작위 샘플 정렬과 동등한 성능을 보인다. 결정적 특성 덕분에 버킷 크기가 사전에 보장되어 입력 데이터에 따라 실행 시간이 변동하지 않는다.

상세 분석

GPU Bucket Sort는 전통적인 샘플 정렬의 흐름을 GPU에 최적화한 형태로, 크게 네 단계로 구성된다. 첫 번째 단계는 입력 데이터를 일정 크기의 블록으로 나누어 각 블록 내부에서 로컬 정렬을 수행한다. 여기서는 CUDA의 스레드 블록을 활용해 공유 메모리 기반 비트맵 정렬(bitonic sort) 혹은 스레드 레벨 병렬 퀵소트를 적용한다. 두 번째 단계에서는 각 블록에서 일정 간격으로 샘플을 추출해 전체 샘플 집합을 만든다. 이때 샘플 수는 전체 입력 크기와 GPU 코어 수에 비례하도록 설계되어, 버킷 경계가 균등하게 분포하도록 보장한다. 세 번째 단계는 전체 샘플을 정렬하고, 정렬된 샘플을 기반으로 버킷 경계를 결정한다. 여기서 핵심은 결정적 샘플링을 사용함으로써 경계값이 입력에 따라 달라지는 확률적 변동을 없애는 점이다. 마지막 단계에서는 각 입력 원소를 해당 버킷에 할당하고, 버킷별로 독립적인 정렬을 수행한다. 버킷 크기가 사전에 보장되므로, 메모리 오버플로우나 워크로드 불균형이 발생하지 않는다. 또한, 각 버킷 정렬은 GPU의 다중 스트림을 이용해 병렬적으로 진행되며, 최종 결과는 버킷 순서대로 단순히 연결(concatenation)하면 된다. 구현상의 주요 최적화로는 (1) 공유 메모리와 전역 메모리 간 데이터 이동 최소화, (2) 워프 수준의 협조적 스케줄링을 통한 메모리 접근 패턴 정렬, (3) 동적 파라미터 튜닝을 통한 블록 크기와 샘플 수 자동 조정이 있다. 실험 결과는 NVIDIA Fermi와 Kepler 아키텍처에서 수행됐으며, 입력 크기 2^20~2^28 범위에서 Thrust Merge 대비 평균 1.8배, 무작위 샘플 정렬 대비 5% 내외의 오버헤드만을 보였다. 특히, 입력이 이미 부분적으로 정렬된 경우에도 실행 시간이 일정하게 유지되는 점이 결정적 접근법의 장점으로 강조된다. 이 논문은 GPU 기반 대규모 데이터 정렬에 있어 예측 가능한 성능을 요구하는 실시간 분석, 데이터베이스 인덱싱, 그래픽 파이프라인 등 다양한 응용 분야에 직접적인 영향을 미칠 수 있다.