다중유형 분기 과정의 자손분포 추정을 위한 EM 알고리즘

초록

본 논문은 터미널 타입을 포함하는 다중유형 분기 과정(MTBP)에서 관측 가능한 세대 크기만을 이용해 자손 분포를 추정하는 EM 알고리즘을 제시한다. 완전 데이터(전체 트리)와 불완전 데이터(세대 관측)의 로그우도 차이를 최소화하는 기대‑최대화 절차를 수식화하고, 내부 확률 α와 외부 확률 β를 이용한 동적 프로그래밍 재귀식을 도입해 E‑스텝의 계산 복잡도를 낮춘다. 알고리즘의 수렴 조건을 검증하고, 네 종류의 타입을 가진 예시와 시뮬레이션을 통해 실제 적용 가능성을 확인한다.

상세 분석

논문은 먼저 다중유형 브랜칭 프로세스(MTBP)를 연속시간과 이산시간 두 경우로 정의하고, 특히 일부 타입을 ‘터미널 타입’으로 지정해 해당 입자는 생성 후 사라지지 않고 영구히 관찰 가능한 상태로 남는 모델을 제시한다. 이러한 가정은 세포 증식 실험에서 죽은 세포가 현미경으로 계속 관찰되는 상황을 현실적으로 반영한다. 관측은 초기 한 개의 입자로 시작해 일정 시간 t 후 각 타입별 개체 수(세대)만을 제공한다는 제한 하에, 전체 트리를 숨은 변수로 두고 EM 프레임워크를 적용한다.

완전 데이터 로그우도는 각 타입‑생산 규칙 Tᵥ→A에 대한 발생 횟수 c(Tᵥ→A;π,x)와 해당 확률 p(Tᵥ→A)의 곱으로 표현된다. 불완전 데이터 로그우도는 모든 가능한 트리 π에 대해 합산한 마진 확률이며, 직접 최적화는 불가능하므로 E‑스텝에서 현재 파라미터 p⁽ⁱ⁾를 이용해 기대 발생 횟수 E_{p⁽ⁱ⁾}