대규모 상태공간 숨은 마코프 모델의 상태 복원을 위한 평균장 근사법

초록

본 논문은 상태공간이 큰 숨은 마코프 모델(HMM)에서 관측값으로부터 최적 상태열을 추정하는 문제를 평균장(mean‑field) 근사를 이용해 저복잡도 알고리즘으로 해결한다. 전이 행렬을 평균장으로 근사하고, 이를 DNA 파이로시퀀싱 모델에 적용해 성능을 실험적으로 검증한다.

상세 분석

숨은 마코프 모델(HMM)의 상태 복원 문제는 관측 시퀀스가 주어졌을 때 각 시점의 숨은 상태에 대한 사후 확률, 즉 마진을 계산하는 작업과 동치이다. 전통적인 전이 행렬(transfer matrix) 방법은 베르누이 연산을 통해 정확한 마진을 구할 수 있지만, 상태공간의 크기가 N일 때 연산 복잡도가 O(N²)로 급격히 증가한다. 특히 DNA 파이로시퀀싱과 같이 수천 개의 가능한 화학 상태가 존재하는 경우, 직접적인 전이 행렬 계산은 메모리와 시간 측면에서 비현실적이다.

저자들은 이러한 문제를 해결하기 위해 평균장 근사를 도입한다. 평균장 접근법은 전체 시스템을 개별 변수들의 독립적인 분포로 근사함으로써 상호작용을 평균화한다. 구체적으로, 전이 행렬을 로그-선형 형태로 표현하고, 각 상태에 대한 “필드”를 평균값으로 대체한다. 이때 두 가지 주요 평균장 스킴을 제시한다. 첫 번째는 ‘단순 평균장(SMF)’으로, 각 시점의 전이 확률을 현재 시점의 마진에만 의존하도록 단순화한다. 두 번째는 ‘고차 평균장(HMF)’으로, 인접 시점의 마진을 동시에 고려해 보다 정교한 근사를 제공한다.

알고리즘 흐름은 다음과 같다. (1) 초기 마진을 균등 분포로 설정하고, (2) 평균장 식을 이용해 전이 행렬을 업데이트한다. (3) 업데이트된 전이 행렬을 사용해 전방-후방(FB) 알고리즘을 수행해 새로운 마진을 얻는다. (4) 수렴 조건이 만족될 때까지 (2)–(3) 과정을 반복한다. 이 과정은 각 반복마다 O(N) 연산만을 요구하므로, 상태공간이 매우 큰 경우에도 실시간 처리에 근접한다.

실험에서는 DNA 파이로시퀀싱 모델을 채택했다. 이 모델은 각 염기 서열에 대해 화학 반응 강도가 관측값으로 제공되며, 실제 실험 데이터와 시뮬레이션 데이터를 모두 사용해 알고리즘의 정확도와 속도를 평가했다. 평균장 기반 알고리즘은 전통적인 비터비(Viterbi)와 전이 행렬 기반 베이즈 추정에 비해 10배 이상 빠른 실행 시간을 보였으며, 복원 정확도는 2~3% 정도 감소하는 정도에 그쳤다. 특히 고차 평균장(HMF)은 단순 평균장(SMF)보다 정확도가 높아, 복잡한 상호작용을 보존하면서도 연산량을 크게 줄이는 장점을 확인했다.

이 논문의 핵심 기여는 (1) 대규모 상태공간 HMM에 적용 가능한 평균장 근사 프레임워크를 제시한 점, (2) 전이 행렬을 평균장으로 변환함으로써 O(N²) → O(N) 복잡도로 축소한 점, (3) 실제 바이오인포매틱스 문제에 적용해 실용성을 입증한 점이다. 또한, 평균장 근사는 다른 고차원 시계열 모델(예: 조건부 랜덤 필드, 딥러닝 기반 시퀀스 모델)에도 확장 가능함을 시사한다. 향후 연구에서는 평균장 근사의 수렴 이론을 정형화하고, 변분 베이즈와 결합해 더욱 정밀한 사후 분포 추정을 시도할 여지가 있다.