이중힙 정렬: 병렬성을 갖춘 힙정렬의 새로운 확장

초록

이 논문은 기존 힙정렬을 일반화한 이중힙 정렬 알고리즘을 제안한다. 평균적으로 비교·이동 연산이 약 50 % 증가하지만, 캐시 친화성 향상, 정렬된 입력에 대한 빠른 처리, 그리고 병렬 구현의 용이성이라는 세 가지 주요 장점을 제공한다.

상세 분석

이중힙 정렬은 전통적인 힙정렬이 단일 힙 구조에 의존해 최댓값(또는 최솟값)만을 반복적으로 추출하는 방식과 달리, 두 개의 힙—하나는 최대 힙, 다른 하나는 최소 힙—을 동시에 유지한다. 입력 배열을 절반씩 나누어 각각의 힙에 삽입하고, 두 힙 사이에 “교환 경계”(exchange boundary)를 설정한다. 이 경계는 현재 정렬된 구간과 아직 정렬되지 않은 구간을 구분하며, 경계 양쪽의 원소들은 서로 비교·교환되어 전체 배열이 점진적으로 정렬된다.

핵심 아이디어는 “양방향 힙 연산”이다. 최대 힙에서는 루트가 현재 남은 원소 중 가장 큰 값을 보장하고, 최소 힙에서는 루트가 가장 작은 값을 보장한다. 두 힙의 루트를 비교해 교환이 필요하면 즉시 수행하고, 이후 각각의 힙에 대해 힙ify 과정을 병렬로 진행한다. 이 과정은 전통적인 힙정렬에서 한 번에 하나의 원소만을 정렬하는 것과 달리, 동시에 두 방향에서 정렬이 진행되므로 전체 깊이가 절반으로 감소한다.

알고리즘의 시간 복잡도는 최악의 경우 O(n log n)이며, 평균적으로 힙정렬과 동일하지만 비교·이동 연산 수가 약 1.5배 정도 늘어난다. 그럼에도 불구하고 메모리 접근 패턴이 연속적이고 지역성을 높여 캐시 미스가 크게 감소한다. 특히 입력이 이미 정렬돼 있거나 거의 정렬된 경우, 최소 힙과 최대 힙 사이의 교환이 거의 발생하지 않아 실제 실행 시간은 힙정렬보다 현저히 빠르다.

병렬 구현 측면에서 가장 큰 장점은 두 힙이 독립적으로 동작한다는 점이다. 멀티코어 환경에서 각 코어에 힙ify 작업을 할당하면 동기화 비용이 최소화되고, 스케줄링이 간단해진다. 또한, 경계 교환 단계는 원자적 연산 하나로 처리될 수 있어 락이나 복잡한 동기화 메커니즘이 필요 없다. 이러한 구조는 GPU와 같은 대규모 병렬 처리 장치에도 자연스럽게 매핑될 수 있다.

하지만 단점도 존재한다. 두 힙을 동시에 관리해야 하므로 추가적인 메모리 오버헤드가 발생하고, 구현 복잡도가 증가한다. 또한, 비교·이동 연산이 늘어나기 때문에 메모리 대역폭이 제한된 환경에서는 오히려 성능 저하가 나타날 수 있다. 따라서 실제 적용 시에는 입력 데이터의 특성, 하드웨어 캐시 구조, 병렬 코어 수 등을 종합적으로 고려해야 한다.

요약하면, 이중힙 정렬은 힙정렬의 기본 원리를 유지하면서도 양방향 힙 구조와 병렬 친화적 설계를 도입해 캐시 효율성과 병렬 확장성을 크게 개선한 알고리즘이다. 이는 특히 대용량 데이터와 멀티코어/다중코어 시스템에서 실용적인 대안이 될 수 있다.