제자리 연관 순열 정렬

초록

본 논문은 정수 키를 갖는 n개의 원소를 입력 리스트와 별도의 메모리 없이 O(1) 추가 공간으로 정렬하는 ‘제자리 연관 순열 정렬’ 알고리즘을 제안한다. 키 범위 m이 n 이하이면 최악·평균·최선 모두 O(n) 시간에 정렬이 가능하고, m이 n보다 크면 최악 O(n+m), 평균 O(m), 최선 O(n) 시간 복잡도를 보인다. 알고리즘은 인지신경과학의 기억 형성·회수 과정을 ‘연습‑저장‑검색’ 단계에 비유한 연관 정렬 기법을 기반으로 하며, 기존 버킷 정렬·계수 정렬·주소 계산 정렬을 대체할 수 있는 메모리 효율적인 대안을 제공한다.

상세 요약

이 논문은 기존의 버킷 정렬이나 계수 정렬이 요구하는 O(m) 크기의 보조 배열을 없애고, 입력 배열 자체를 ‘연관 메모리’로 활용하는 새로운 정렬 메커니즘을 제시한다. 핵심 아이디어는 ‘연관(associative) 정렬’ 개념을 ‘순열(permutation)’과 결합해, 각 원소를 키값에 대응되는 위치로 직접 이동시키는 과정에서 추가적인 메타데이터 없이도 원소들의 순서를 복구할 수 있다는 점이다. 알고리즘은 크게 세 단계로 나뉜다. 첫 번째 ‘연습(practicing)’ 단계에서는 입력 배열을 한 번 순회하면서 각 원소를 키값에 따라 해시 함수 h(k)=k−minKey(또는 h(k)=k mod n) 로 매핑하고, 이미 해당 위치에 다른 원소가 존재하면 체이닝 없이 교환을 통해 원소를 재배치한다. 이때 교환된 원소는 다시 같은 과정을 반복해 최종적으로 모든 원소가 ‘키‑인덱스’ 관계를 만족하도록 만든다. 두 번째 ‘저장(storing)’ 단계에서는 배열 내에 존재하는 ‘키‑인덱스’ 쌍을 이용해, 각 원소가 정확히 자신의 정렬된 위치에 놓이도록 순환 교환(cycle leader) 기법을 적용한다. 여기서는 추가적인 카운터나 플래그를 사용하지 않으며, 이미 방문한 원소는 그 자리에서 ‘잠금(lock)’된 것으로 간주한다. 마지막 ‘검색(retrieval)’ 단계는 단순히 배열을 앞에서 뒤로 한 번 더 스캔해 정렬된 순서를 확인하고, 필요에 따라 오름차순·내림차순 전환을 수행한다. 시간 복잡도 분석에 따르면, 키 범위 m이 n 이하인 경우 해시 매핑이 충돌 없이 일대일 대응을 이루므로 전체 과정이 O(n)으로 수렴한다. m>n인 경우에는 해시 충돌이 발생해 추가적인 교환이 필요하지만, 평균적으로 균등 분포된 키에 대해 충돌 비율이 m/n이므로 전체 복잡도는 O(n+m) 최악, O(m) 평균, O(n) 최선으로 평가된다. 메모리 사용 측면에서는 입력 배열 외에 단일 정수형 변수(인덱스·카운터)만을 사용하므로 O(1) 추가 공간을 만족한다. 알고리즘의 장점은 (1) 메모리 제약이 심한 임베디드 시스템이나 대용량 데이터 스트림에 적합하고, (2) 정수 키가 제한된 구간에 존재할 때 기존 계수 정렬보다 캐시 친화적이며, (3) ‘연관‑순열’ 구조가 안정성을 보장하지 않음에도 불구하고 평균적으로 높은 정렬 속도를 제공한다는 점이다. 반면 한계점으로는 (가) 키가 중복될 경우 충돌 해결 로직이 복잡해져 구현 난이도가 상승하고, (나) 최악 상황에서 m이 n보다 크게 차이날 경우 O(n+m) 시간이 실제로는 O(m)에 가까워져 메모리 절감 효과가 감소한다는 점이다. 또한, 현재 제시된 알고리즘은 ‘키‑인덱스’ 매핑이 단조 증가(또는 감소) 형태일 때만 최적 성능을 보이며, 비선형 해시 함수를 적용하면 추가적인 연산 오버헤드가 발생한다. 전반적으로 이 논문은 메모리 제약과 정수 키 범위가 명확히 정의된 상황에서 실용적인 대안이 될 수 있는 새로운 정렬 패러다임을 제시한다.