GPU 샘플 정렬 다중 경로 정렬의 새로운 지평

초록

본 논문은 다중 코어 GPU 환경에서 샘플 정렬(sample sort)을 구현하고, 기존의 비교 기반 정렬인 Thrust merge sort와 quicksort, 그리고 비 비교 기반인 Thrust radix sort와의 성능을 정량적으로 비교한다. 균등 분포 키에 대해 최소 25 %~68 % 빠른 GPU Thrust merge sort 대비 향상을 보이며, 64‑bit 정수 키에서는 최소 63 %~200 %까지 속도 개선을 달성한다. 구현은 다양한 키 분포와 엔트로피 수준에 강인하며, 입력 크기에 대해 거의 선형적으로 확장된다. 결과는 다중 경로 정렬 기법, 특히 샘플 정렬이 두 단계 병합 정렬이나 퀵 정렬보다 GPU에서 현저히 우수함을 입증한다.

상세 분석

샘플 정렬은 전통적으로 분산 메모리 시스템에서 다중‑way 분할을 통해 부하를 균등하게 배분하고, 각 파티션을 독립적으로 정렬하는 방식이다. 논문은 이 개념을 GPU의 SIMD(SIMT) 구조와 메모리 계층에 맞게 재구성한다. 먼저 전체 입력을 작은 블록으로 나누어 각 워프가 로컬 샘플을 추출하고, 이를 전역 메모리에서 정렬된 피벗 배열로 집계한다. 피벗은 전체 데이터의 분위수를 근사하도록 선택되어, 이후 단계에서 각 스레드 블록이 자신에게 할당된 구간을 효율적으로 계산한다. 핵심은 ‘멀티‑웨이 파티셔닝’ 단계에서 원자적 연산 없이 공유 메모리와 스캔 연산을 활용해 각 블록이 담당할 구간의 시작·끝 인덱스를 빠르게 구하는 것이다. 이렇게 하면 메모리 접근 패턴이 연속적이고, 전역 메모리 트래픽이 최소화된다. 정렬 단계에서는 각 파티션을 기존의 고성능 GPU 정렬 커널(예: bitonic sort)로 처리한다. 구현은 두 가지 중요한 최적화를 포함한다. 첫째, 피벗 선택 시 샘플 크기를 입력 크기에 비례하도록 동적으로 조정해 피벗 오차를 제한한다. 둘째, 파티션 크기가 크게 불균형해질 경우를 대비해 ‘재샘플링’ 메커니즘을 도입해 부하 재분배를 수행한다. 실험 결과는 균등 분포, 정규 분포, 지수 분포 등 다양한 확률 분포와 엔트로피가 낮은 경우까지 포괄한다. 특히 64‑bit 정수 키에 대해 GPU Thrust radix sort보다 평균 2배, 최악 63 % 빠른 성능을 보이며, 입력 크기가 2^20에서 2^28까지 확대될 때도 거의 선형 확장성을 유지한다. 이는 샘플 정렬이 두 단계 병합이나 퀵 정렬이 겪는 스레드 간 동기화 비용과 메모리 불균형 문제를 효과적으로 회피함을 의미한다. 또한, 구현은 CUDA 10 이상에서 컴파일 가능하며, 메모리 사용량은 입력 크기의 약 1.2배에 머물러 GPU 메모리 제한을 크게 초과하지 않는다. 이러한 설계와 최적화는 GPU에서 다중‑way 정렬이 실용적인 선택이 될 수 있음을 강력히 시사한다.