통계적 평균 복잡도 탐구

본 논문은 알고리즘 평균‑케이스 복잡도 분석에 대한 새로운 패러다임을 제시한다. 서론에서는 전통적인 연산 횟수 기반 분석이 복잡한 코드나 기대값이 존재하지 않는 확률 분포(예: Cauchy)에서는 적용이 어려움을 강조하고, 실험적 접근의 필요성을 제기한다. 이어서 “통계적 경계(statistical bound)”라는 개념을 도입한다. 이는 각 연산에 가중치를 부여하고, 실제 실행 시간을 그 가중치의 실현값으로 보는 방식이다. 가중치들의 합을 통계적으로 추정한 값을 Y₍avg₎(n) 이라 하고, 이를 경험적 추정치인 empirical‑O (또는 O₍emp₎)라 명명한다. 연구 방법론에서는 퀵소트 알고리즘을 사례 연구 대상으로 삼는다. 구현은 C 언어이며, Pentium 1600 MHz, 512 MB RAM 환경에서 실행한다. 입력 데이터는 두 차원의 파라미터, 즉 균등 분포의 범위 K와 결합도 td(동일 값이 여러 번 나타나는 비율)로 구성된다. K는 5 ~ 5 000 0까지 다양하게 설정하고, 각 K에 대해 5 × 10⁵ ~ 5 × 10⁶ 크기의 배열을 500번 이상 반복 실행해 평균 실행 시간을 측정한다. 통계 분석 도구는 Minitab‑15를 사용하며, 회귀 모델은 n, n log n, n² 세 가지 항을 포함하거나 필요에 따라 선택한다. 실험 결과는 크게 두 부분으로 나뉜다. 첫 번째는 K에 따른 복잡도 변화이다. 표 2(A‑H)와 표 1의 데이터를 보면 K가 작을수록(예: K ≤ 1 000) n² 항의 회귀 계수가 유의미하고, 결정계수(R²)가 99 % 이상으로 매우 높다. 이는 입력값이 좁은 범위에 몰려 있을 때 퀵소트가 최악‑케이스와 유사한 O(n²) 거동을 보인다는 것을 의미한다. 반면 K가 5 000 ~ 5 000 0으로 커지면 n log n 항의 t‑값이 크게 증가하고, n² 항의 유의성이 급격히 감소한다. 결국 충분히 넓은 값 범위에서는 퀵소트가 전통적으로 알려진 평균‑케이스 복잡도 O(n log n) 을 회복한다. 두 번째는 결합도(td)와 복잡도 사이의 관계이다. 표 3과 표 4(A‑B)에서 td를 1, 10, 100, 1 000 등으로 변화시켰을 때 평균 실행 시간은 거의 선형적으로 증가한다. 회귀 분석 결과는 t 항만을 포함한 모델이 높은 적합도(R² ≈ 1)를 보이며, n log n 항은 통계적으로 유의미하지 않다. 저자들은 이를 “pseudo‑linear complexity”라 부르며, 결합도가 높은 경우 퀵소트가 실제로 O(n) 에 근접한 성능을 나타낼 수 있음을 시사한다. 논문은 이러한 실험적 관찰을 바탕으로 두 가지 새로운 conjecture를 제시한다(구체적인 내용은 논문 본문에 상세히 기술되지 않음). 또한 전통적인 평균‑케이스 분석이 기대값이 존재하지 않을 때는 무용지물이며, 경험적‑O는 이러한 상황에서도 유용한 대안이 될 수 있음을 강조한다. 논의 부분에서는 통계적 경계와 empirical‑O의 장점과 한계를 모두 다룬다. 장점으로는 (1) 기대값이 정의되지 않은 분포에서도 복잡도 추정이 가능하고, (2) 복합 연산이 섞인 실제 코드의 전체 실행 시간을 포괄적으로 평가할 수 있다는 점을 들었다. 한계로는 실험 환경이 제한적이며, 하드웨어 의존성이 완전히 배제되지 않는 점, 회귀 모델 선택 기준이 명확히 제시되지 않아 과적합 위험이 존재한다는 점을 지적한다. 또한 두 conjecture에 대한 구체적인 증명이나 실험적 검증이 부족하다는 점도 비판한다. 결론에서는 통계적·실험적 접근이 알고리즘 평균‑케이스 분석에 새로운 시각을 제공한다는 점을 재확인한다. 특히 입력 파라미터(K, td)에 따라 복잡도 차수가 변한다는 정량적 증거는 알고리즘 설계·선택 단계에서 실용적인 가이드라인을 제공한다. 향후 연구 과제로는 다양한 알고리즘에 대한 통계적 경계 적용, 하드웨어 독립적인 측정 방법 개발, 그리고 제시된 conjecture에 대한 이론적 증명 및 추가 실험이 제시된다.