연속시간 마코프 연쇄의 비모수 베이지안 모델링

초록

본 논문은 연속시간 마코프 연쇄(CTCT)의 전이율을 공변량과 결합한 가우시안 프로세스(GP) 비모수 베이지안 프레임워크로 추정한다. 효율적인 샘플링을 위해 근사 그래디언트를 이용한 Hamiltonian Monte Carlo(HMC) 알고리즘을 제안하고, 이를 베이시안 계통발생학(phylogeography) 문제에 적용해 합성·실제 데이터에서 우수성을 입증한다.

상세 분석

이 연구는 CTCT 모델링에서 가장 큰 난제인 “상태 수 K가 커질수록 O(K²)개의 전이율을 추정해야 하는 고차원 문제”를 근본적으로 재구성한다. 기존 방법은 구조적 제한이나 로그-선형 공변량 모델에 의존했지만, 이러한 접근은 복잡한 비선형 효과를 포착하지 못하고 과도한 파라미터 수로 인한 과적합 위험을 내포한다. 저자들은 전이율 qᵢⱼ를 실수 파라미터 θᵢⱼ에 지수 변환(g(θ)=e^θ)으로 매핑한 뒤, θᵢⱼ를 공변량 xᵢⱼ에 대한 함수 f(xᵢⱼ)로 모델링한다. 여기서 f는 평균이 0이고 커널 k(·,·|α)로 정의된 가우시안 프로세스이며, 다중 공변량 경우는 독립적인 GP들의 합으로 확장한다. GP는 비모수적 특성 덕분에 복잡한 비선형 관계를 유연하게 학습하면서도 사후 불확실성을 자연스럽게 제공한다.

샘플링 측면에서는, CTCT의 로그-우도는 행렬 지수 e^{tQ}와 그 도함수의 계산이 필요해 O(K³)·O(K²)=O(K⁵) 복잡도를 초래한다. 저자들은 최근 제안된 행렬 지수 그래디언트 근사법(Didier et al., 2024)을 도입해 전체 복잡도를 O(K²)로 낮춘다. 이 근사는 HMC의 서브트라젝터리(gradient surrogate)로 사용되며, 기존 이론(Li et al., 2019)에 따라 정확한 수렴성을 유지한다. 따라서 고차원 파라미터 공간에서도 효율적인 탐색이 가능해진다.

베이시안 계통발생학 적용에서는, 트리 구조를 갖는 데이터에 대해 각 팁(tip) 상태가 관측되고 내부 노드가 숨겨진 상황을 고려한다. 저자들은 기존의 로그-선형 모델을 GP 기반 비선형 모델로 교체함으로써, 지리적 거리, 인구 규모, 환경 변수 등 복합적인 요인이 전이율에 미치는 영향을 정량화한다. 실험 결과, 합성 데이터에서는 진짜 비선형 함수를 정확히 복원했으며, 실제 인플루엔자와 코로나바이러스 데이터에서는 기존 방법보다 높은 예측 정확도와 더 타당한 공변량 효과 추정을 보여준다.

전체적으로 이 논문은 (1) GP를 통한 비모수적 공변량-전이율 연결, (2) 근사 그래디언트를 활용한 O(K²) HMC 샘플링, (3) 계통발생학 트리 모델에의 자연스러운 통합이라는 세 축을 통해 CTCT 추정의 이론적·실용적 한계를 크게 확장한다는 점에서 큰 의의를 가진다.