조건부 상호정보량을 활용한 마코프 체인 차수 추정 혁신

1. 서론 마코프 체인의 차수 L은 모델 복잡도와 예측 정확도 사이의 균형을 결정하는 핵심 파라미터이다. 기존에는 AIC, BIC, EDC, Peres‑Shields(PS), φ‑divergence 기반 LR 검정 등 다양한 정보 기준과 검정법이 제안되었지만, 대부분은 asymptotic 일관성에 의존하거나 작은 표본에서 과소·과대 평가되는 한계가 있다. 2. 조건부 상호정보량(CMI) 정의 및 추정 CMI는 I_c(m)=I(X_t;X_{t‑m}|X_{t‑1},…,X_{t‑m+1}) 로 정의되며, 이는 두 변수 사이의 순수한 의존성을 측정한다. MLE를 이용해 joint와 conditional 확률을 추정하고, 식 (2)에 대입해 ˆI_c(m)를 계산한다. 엔트로피 편향식 ˆH−H≈−(K^m−1)/(2N) 를 이용해 CMI 편향을 근사(식 3)하고, 이는 K와 m이 클수록, N이 작을수록 편향이 커짐을 보여준다. 3. 랜덤화 검정 절차 편향 보정만으로는 정확한 영가설 분포를 얻기 어렵다. 따라서 원본 시퀀스의 심볼을 무작위 순열하여 M개의 재표본을 만든다. 각 재표본에 대해 ˆI_c^*(m)를 구하고, 원본 ˆI_c^0(m)의 순위 r_0를 통해 p‑값을 계산한다(보정된 ECDF 사용). H0: I_c(m)=0을 기각하면 m은 차수의 하한이 되고, 연속적으로 m을 증가시키다 기각이 멈나는 최초의 m을 차수 추정값 L̂ 로 정의한다. 4. 다른 차수 추정 방법 소개 - AIC: -2log‑likelihood + 2·파라미터 수 - BIC: -2log‑likelihood + log(N)·파라미터 수 - PS: 전이 확률의 변동량을 이용해 급격한 변화를 탐지 - φ‑divergence LR(S_f): φ(x)=(x^λ+1−x+λ(1−x))/(λ(λ+1)) (λ=2/3) 사용, χ² 분포 기반 검정 5. 몬테카를로 시뮬레이션 파라미터 조합(K=2,4; L=1~6; N=500,1000,5000)으로 100번씩 시뮬레이션 수행. CMI‑테스트는 M=1000 재표본 사용. 결과: - 차수 1에서는 모든 방법이 비슷한 정확도. - 차수 ≥2에서는 CMI‑테스트가 평균 정확도 85~95%로 가장 높음. - AIC는 과소 추정, BIC는 과대 추정 경향. - PS는 중간 정도 성능, S_f는 특정 L에서 강하지만 전반적으로 CMI‑테스트에 미치지 못함. 6. DNA 서열 적용 인간 및 마우스 유전체에서 유전자와 인터제닉 영역을 각각 10,000 bp 길이로 추출, 4개의 염기(A,C,G,T)로 K=4. 전이 행렬을 추정하고 각 영역에 대해 차수를 추정. 결과: - 유전자 영역 평균 L̂≈3~4, 인터제닉 영역 평균 L̂≈1~2. - CMI‑테스트가 다른 방법보다 일관된 높은 차수를 제공, 이는 유전자가 더 복잡한 의존 구조를 가짐을 시사. 7. 논의 및 한계 CMI‑테스트는 편향 보정과 랜덤화 검정을 결합해 강건한 차수 추정을 제공한다. 그러나 K·L이 커지고 N이 작을 경우 재표본 기반 검정력 감소가 관찰된다. 계산 비용은 M·(N−m) 정도이며, 대규모 시퀀스에서는 병렬화가 필요하다. 향후 연구에서는 베이지안 사전 결합, 블록 부트스트랩, 혹은 신경망 기반 확률 추정으로 고차원·소표본 상황을 개선할 여지가 있다. 8. 결론 조건부 상호정보량을 이용한 순차적 랜덤화 검정은 마코프 체인 차수 추정에 있어 기존 정보 기준보다 전반적으로 우수한 성능을 보이며, 특히 차수가 2 이상인 경우에 강력한 검정력을 제공한다. DNA 서열 분석에서도 생물학적 의미 있는 차이점을 드러내어, 실제 데이터에 적용 가능함을 입증한다.