최고 기대 보상 디코딩을 활용한 HMM 기반 바이러스 재조합 탐지

초록

본 논문은 전통적인 Viterbi 알고리즘의 한계를 극복하기 위해, 상태 경로의 확률이 아닌 기대 보상을 최대화하는 새로운 디코딩 방법인 HERD(Highest Expected Reward Decoding)를 제안한다. HERD는 개별 특징 구간의 경계에 불확실성을 허용함으로써 보다 유연한 해석을 가능하게 하며, 이를 점프 HMM에 적용해 바이러스 유전체에서의 재조합 구간을 효과적으로 탐지한다. 실험 결과, HERD는 기존 방법에 비해 재조합 위치의 정확도와 민감도가 크게 향상됨을 보여준다.

상세 요약

본 연구는 HMM(Hidden Markov Model)의 전통적인 디코딩 방식인 Viterbi 알고리즘이 “가장 높은 전체 확률”을 갖는 단일 경로만을 선택한다는 근본적인 제한점에 주목한다. 실제 생물학적 데이터, 특히 바이러스 유전체와 같이 재조합 현상이 빈번히 발생하는 경우에는 개별 특징(예: 재조합 구간)의 경계가 불명확하거나 측정 오차가 존재한다. 이러한 상황에서 Viterbi는 경계가 조금이라도 어긋나면 전체 경로의 확률이 급격히 감소하여, 실제 존재하는 중요한 변이를 놓칠 위험이 있다.

HERD는 이러한 문제를 해결하기 위해 “보상 함수”(reward function)를 도입한다. 보상 함수는 특정 상태 구간이 실제 특징에 부합할 경우 높은 점수를 부여하고, 경계가 약간 벗어나더라도 일정 수준의 보상을 유지하도록 설계된다. 즉, HERD는 전체 경로의 확률이 아니라, 기대 보상의 합을 최대화하는 경로를 찾는다. 이를 위해 동적 계획법(DP)을 변형하여, 각 시점에서 가능한 상태와 그에 대응하는 보상을 누적하고, 최적의 기대 보상을 제공하는 전이 경로를 선택한다.

핵심적인 수학적 기법은 다음과 같다. 먼저, 각 상태 i와 시점 t에 대해 보상 r_i(t) 를 정의하고, 전이 확률 a_{ij}와 방출 확률 b_j(o_t)를 기존 HMM 파라미터와 동일하게 유지한다. 기대 보상은 Σ_t r_{s_t}(t) 로 표현되며, 동적 계획식은 Viterbi와 유사하게 δ_t(j)=max_i