디크슨 보조정리와 복잡도 상한의 새로운 접근

초록

이 논문은 디크슨 보조정리(자연수 k‑튜플의 부분 순서가 좋은 순서임)를 이용해 발생하는 “나쁜” 수열의 최대 길이를 정밀히 분석한다. 제어 함수 f에 의해 제한된 t‑제어 수열에 대해 길이 상한 Lₖ,𝑓(t) 를 정의하고, 이를 Fast‑Growing 계층(Fₙ) 안에서 정확히 위치시킨다. 주요 결과는 선형 제어 함수에 대해 Lₖ,𝑓(t) 가 Fₖ 단계에 속하고, 일반적인 𝑓∈F_γ이면 F_{γ+k−1} 단계에 속한다는 것이다. 또한 이 경계가 본질적으로 최적임을 증명한다. 실용적인 “사용자 가이드”를 통해 프로그램 종료 증명, 카운터 자동기, Petri‑net 등 다양한 사례에 적용하는 방법을 제시한다.

상세 분석

논문은 먼저 (ℕᵏ,≤) 가 잘‑정렬(wqo)임을 이용해 무한 수열은 반드시 증가 쌍을 포함한다는 디크슨 보조정리의 기본 성질을 상기한다. 여기서 핵심 문제는 “나쁜(bad) 수열”, 즉 증가 쌍이 전혀 없는 유한 수열의 최장 길이를 어떻게 정량화하느냐이다. 저자들은 수열이 너무 자유롭게 점프하는 것을 방지하기 위해 제어 함수 f:ℕ→ℕ을 도입하고, 모든 원소 xᵢ의 무한 노름 ‖xᵢ‖∞ 가 f(i+t) 보다 작도록 t‑제어 수열을 정의한다. 이렇게 제한된 환경에서만 나쁜 수열이 존재하므로, L_{τ}(t) 라는 최대 길이 함수를 정의할 수 있다.

핵심 기술은 “합(type) τ”라는 개념을 도입해 ℕᵏ의 직접적인 분석 대신, 여러 차원의 ℕ^k 를 합집합 형태로 다루는 것이다. τ는 차원들의 다중집합으로, τ₁+τ₂, p×τ 등 연산을 통해 복합 구조를 구성한다. 이 구조 위에서 수열을 “지역(region) R_{j,s}” 로 분할하면, 각 부분 수열은 차원이 하나 감소한 문제(ℕ^{k‑1}) 로 귀환한다. 구체적으로, τ={k} 인 경우 첫 원소 x₀ 를 고정하고 나머지를 N_k(t) = k·(f(t)‑1) 개의 지역으로 나누어, 각 지역의 부분 수열을 (t+1)‑제어된 ℕ^{k‑1} 위의 나쁜 수열로 간주한다. 이를 통해 얻은 재귀 부등식

 L_{ {k} }(t) ≤ 1 + L_{ N_k(t) × {k‑1} }(t+1)

은 L_{τ}(t) 를 τ의 구조에 따라 귀납적으로 계산할 수 있게 만든다. 일반 τ 에 대해서는 τ_h(k,t) = τ{k} + N_k(t)×{k‑1} 라는 변환을 정의하고,

 L_{τ}(t) ≤ max_{k∈τ} { 1 + L_{ τ_h(k,t) }(t+1) }

라는 일반 형태의 상한을 얻는다.

다음 단계에서는 제어 함수 f가 Fast‑Growing 계층 F_γ 에 속한다는 가정 하에, 위 재귀식을 해석한다. 핵심은 N_k(t) 가 f(t)·k 로 선형적으로 성장하므로, 차원 k 가 증가할 때마다 한 단계씩 계층이 상승한다는 점이다. 따라서 선형 제어 f(x)=x+1 일 때는 L_{k,f}(t) 가 정확히 F_k 단계에 위치하고, 일반적인 f∈F_γ 일 때는 F_{γ+k‑1} 단계에 속한다는 결론을 얻는다. 이는 기존 연구(McAloon 1984)가 제시한 F_{k+1} 상한보다 한 단계 낮은 더 강력한 결과이며, 논문에서는 이를 최적임을 보이기 위해 하한도 구성한다.

마지막으로, 저자들은 이 이론을 실제 알고리즘 분석에 적용한다. 예시로는 (a,b) 두 변수에 대해 선택·감소 루프를 수행하는 간단한 프로그램, 카운터 자동기와 Petri‑net의 비공허성 검사, Karp‑Miller 커버리지 트리 구축 등이 있다. 각 경우에 프로그램 상태를 ℕᵏ 튜플로 모델링하고, 제어 함수 f를 적절히 선택해 t‑제어 나쁜 수열의 길이를 L_{k,f}(t) 로 상한함으로써 실행 시간이나 탐색 깊이의 복잡도 상한을 F_2, F_3 등 구체적인 Fast‑Growing 단계로 표현한다.

이러한 분석 흐름은 “디크슨 보조정리를 이용한 복잡도 추정”이라는 전통적인 난관을 체계적으로 해소하고, 복잡도 이론가와 검증 엔지니어가 손쉽게 적용할 수 있는 실용적인 가이드라인을 제공한다.