정렬 알고리즘의 콜모고로프 복잡도 분석

초록

본 설문은 콜모고로프 복잡도(불가압축법)를 이용해 버블정렬, 힙정렬, 쉘정렬, 도보시에비치 정렬, 쉐이커정렬 및 스택·큐 기반 정렬의 평균·최악 사례 복잡도를 새롭게 정리한다. 특히 쉘정렬에 대한 오래된 미해결 문제를 간단히 해결한 사례를 강조한다.

상세 분석

콜모고로프 복잡도는 임의의 문자열이 가장 짧은 프로그램으로 재현될 때의 길이로 정의되며, “대부분의 입력은 압축 불가능(무작위)이다”는 불가압축 원리를 제공한다. 이 원리를 정렬 알고리즘에 적용하면, 무작위 입력에 대한 실행 경로의 정보량을 직접 측정함으로써 평균‑case 복잡도를 복잡도 이론 없이도 추정할 수 있다. 논문은 먼저 기본적인 불가압축 정리를 정리하고, 이를 정렬 과정에 매핑하는 일반 프레임워크를 제시한다.

버블정렬과 쉐이커정렬은 인접 교환을 반복하는 구조이므로, 각 교환이 입력 배열의 인버전 수를 1씩 감소시킨다. 무작위 배열의 평균 인버전 수는 n(n‑1)/4이며, 이는 콜모고로프 복잡도 관점에서 “인버전 정보를 압축할 수 없는” 상태와 동일하다. 따라서 평균 교환 횟수는 Θ(n²)임을 간단히 도출한다.

힙정렬은 힙 구축 단계와 힙 정렬 단계로 나뉜다. 힙 구축은 배열을 힙 구조로 변환하는 과정에서 각 원소가 로그 n 깊이의 경로를 따라 이동한다. 무작위 입력에 대해 힙 구축에 필요한 비교·교환 수는 Θ(n)이며, 이는 힙의 구조적 정보가 입력의 무작위성에 비해 낮은 복잡도를 갖기 때문이다. 힙 정렬 단계는 최대 로그 n 단계의 “삭제‑재배열” 과정을 거치며, 각 단계마다 로그 n 번의 비교가 필요하므로 전체 평균 복잡도는 Θ(n log n)으로 확인된다.

쉘정렬은 간격 시퀀스에 따라 부분 배열을 삽입정렬하는 복합 알고리즘이다. 기존 분석에서는 최적 간격 시퀀스가 미정이었고, 최악·평균 복잡도에 대한 상한·하한이 크게 차이났다. 논문은 무작위 입력을 Kolmogorov‑random 라고 가정하고, 각 간격 단계에서 발생하는 “간격‑인버전”의 기대값을 정확히 계산한다. 그 결과, Hibbard, Pratt 등 전통적인 간격 시퀀스에 대해 평균 시간 복잡도가 Θ(n (log n)²)임을 보였으며, 특히 Sedgewick 시퀀스에 대해서는 Θ(n log n)이라는 새로운 상한을 제시한다. 이는 기존에 “Θ(n (log n)³) 이하”라는 약한 결과를 크게 개선한 것으로, Kolmogorov 복잡도가 복잡도 분석에 직접적인 정밀도를 제공함을 입증한다.

Dobosiewicz‑sort와 같은 비전통적 알고리즘은 “분할‑정복 + 삽입” 구조를 갖는다. 논문은 각 분할 단계에서 발생하는 정보 손실을 Kolmogorov 복잡도로 정량화하고, 무작위 입력에 대해 평균 비교 횟수가 Θ(n log n)임을 증명한다. 이는 기존에 “경우에 따라 O(n log² n)”이라고만 알려졌던 결과와 일치하지만, 불가압축법을 통해 증명의 복잡도를 크게 단순화한다.

스택·큐 기반 정렬(예: 스택 두 개를 이용한 퍼뮤테이션 정렬, 큐를 이용한 라디칼 정렬)은 입력을 순차적으로 처리하면서 내부 자료구조에 저장한다. 여기서 핵심은 “스택 깊이”와 “큐 길이”가 입력의 Kolmogorov 복잡도와 어떻게 연관되는가이다. 논문은 무작위 입력이 스택에 저장될 때 발생하는 “스택‑압축 정보”가 최소 log n 비트 이상 필요함을 보이고, 따라서 두 스택을 이용한 정렬은 평균 Θ(n log n) 시간과 Θ(n) 공간을 필요로 함을 증명한다. 또한 병렬 큐 모델에서는 각 프로세서가 독립적으로 무작위 서브시퀀스를 처리하므로, 전체 복잡도는 Θ((n log n)/p) (p는 프로세서 수)로 선형 스케일링이 가능함을 확인한다.

전반적으로 논문은 Kolmogorov 복잡도라는 정보‑이론적 도구가 정렬 알고리즘의 평균‑case 분석을 “복잡한 적분·확률” 대신 “단순한 압축 불가능성”으로 대체할 수 있음을 보여준다. 특히 쉘정렬에 대한 새로운 평균 복잡도 상한은 오랫동안 남아 있던 이론적 공백을 메우며, 향후 새로운 간격 시퀀스 설계에 정보‑이론적 기준을 적용할 가능성을 열어준다.