보편 반측도와 마틴 러프 무작위열의 수렴 문제

초록

솔로모노프의 보편 반측도 M은 계산 가능한 실제 생성 분포 μ에 대해 확률 1로 수렴하지만, 모든 마틴‑러프 무작위열에 대해 수렴한다는 강한 명제는 일반적으로 성립하지 않는다. 본 논문은 일부 보편 반측도가 무작위열에서 수렴하지 않음을 보이며, 대신 계산 가능한 측도들의 혼합인 비계산 가능 측도 D와, 거의 측도들의 열거 가능한 혼합인 반측도 W를 정의한다. W는 D에, D는 μ에 대해 모든 마틴‑러프 무작위열에서 수렴함을 증명하고, 핵심 도구로 헬링거 거리와 그 수렴 속도를 이용한다.

상세 분석

솔로모노프의 유도 이론은 “보편 반측도 M은 모든 계산 가능한 확률 측도 μ에 대해 사후 확률이 μ와 거의 확실히 수렴한다”는 정리로 요약된다. 이 정리는 확률 1의 사건, 즉 μ‑무작위가 아닌 경우에도 적용되지만, 마틴‑러프 무작위열(즉, M에 의해 정의된 무작위성) 전체에 대해 동일한 수렴을 보장하는지는 미해결 문제였다. 논문은 먼저 보편 반측도 M이 정의상 모든 반측도(열거 가능한 반측도)의 가중 평균임을 상기한다. 그러나 가중치가 computable이 아닌 경우, 특히 “우월한” 반측도가 존재하면 M이 특정 무작위열에 대해 μ와 크게 차이날 수 있음을 보인다. 구체적으로, 저자들은 “악의적” 반측도 M를 구성한다. M는 모든 computable μ에 대해 동일한 가중치를 부여하지만, 특정 마틴‑러프 무작위열 x에 대해 μ(x₁…xₙ)와 M*(x₁…xₙ)의 비율이 무한히 크게 변동하도록 설계한다. 이를 위해 “대체” 전략을 사용해, x의 초기 구간에서는 μ와 거의 일치시키고, 이후 구간에서는 M가 다른 computable 측도들의 혼합을 강조하도록 만든다. 결과적으로, M는 μ에 대해 확률 1 수렴은 유지하지만, x와 같은 특정 무작위열에 대해서는 수렴하지 않는다. 이는 “보편 반측도가 모든 마틴‑러프 무작위열에 대해 수렴한다”는 가설이 일반적으로 거짓임을 증명한다.

다음으로 논문은 긍정적인 대안을 제시한다. 먼저, 모든 computable 측도 μ_i를 균등하게 가중한 비계산 가능 측도 D를 정의한다. D는 실제로는 측도이며, 각 μ_i가 computable이므로 D는 “모든 computable μ의 완전한 혼합”이라고 볼 수 있다. D는 자체는 computable하지 않지만, 그 정의는 명확히 수학적으로 존재한다. 저자들은 D가 모든 마틴‑러프 무작위열 x에 대해 μ와 같은 수렴 속도를 가진다는 것을 헬링거 거리 H(P,Q) = √(½∑(√p_i−√q_i)²) 를 이용해 증명한다. 구체적으로, H(M_n, μ_n) ≤ c·2^{-n/2} 형태의 급격한 감소를 보이며, 이는 무작위열에 대해 무한히 작은 차이를 보장한다.

마지막으로, 실제로 계산 가능한 반측도 W를 도입한다. W는 “거의 측도”(nearly‑measure)라 불리는, 합이 1보다 작을 수 있지만 computably enumerable인 함수들의 혼합으로 정의된다. W는 열거 가능한 모든 거의 측도에 대해 적절히 가중된 반측도이며, 따라서 computable하게 근사 가능하다. 논문은 두 단계의 수렴을 보인다: (1) W는 D에 대해 모든 마틴‑러프 무작위열에서 수렴하고, (2) D는 μ에 대해 같은 무작위열에서 수렴한다. 핵심은 각 단계에서 헬링거 거리의 삼각 부등식과, 반측도와 측도 사이의 차이가 점차 사라지는 것을 정량화한 것이다. 특히, W와 D 사이의 거리 H(W_n, D_n)는 O(1/√n) 이하로 감소하고, D와 μ 사이의 거리 H(D_n, μ_n)는 O(2^{-n/2}) 이하로 감소한다. 따라서 최종적으로 H(W_n, μ_n) 역시 0으로 수렴한다.

이러한 결과는 두 가지 중요한 의미를 가진다. 첫째, 보편 반측도 자체는 무작위열에 대한 강한 수렴성을 보장하지 않지만, 적절히 설계된 반측도(예: W)와 완전한 측도 혼합(D)을 통해 무작위열에 대해 일관된 예측이 가능함을 보여준다. 둘째, 헬링거 거리라는 정보 이론적 도구가 수렴 속도와 강도를 정량화하는 데 매우 유용함을 확인한다. 이는 앞으로의 알고리즘적 정보 이론 및 베이지안 추정 연구에서 보편 예측기의 설계와 분석에 새로운 방향을 제시한다.