진화적 추론을 위한 함수형 형질의 가우시안 프로세스 회귀

초록

본 논문은 계통학적 상관관계를 가진 함수형 데이터에 대해 가우시안 프로세스(GP)를 이용한 비모수 베이지안 모델을 제안한다. 제안 모델은 기존의 계통학적 브라운 운동·오르니엔-웰치 모델을 함수형 형질로 확장하고, 조상 함수의 사후분포 추정, 진화 속도 비교, 최적 계통수 탐색 등의 추론을 가능하게 한다. 간단한 실험을 통해 방법의 적용 가능성을 시연한다.

상세 분석

이 연구는 두 가지 복합적인 특성을 동시에 만족하는 데이터—즉, 관측값이 시간이나 공간에 대한 연속적인 함수 형태이며, 동시에 종 간의 계통학적 관계에 의해 상관관계가 존재한다는 점—에 대한 통계적 모델링을 시도한다. 핵심 아이디어는 가우시안 프로세스(GP)를 계통수 구조에 매핑하여, 각 노드(종)마다 함수형 형질을 무한 차원의 랜덤 함수로 표현하고, 이들 함수 사이의 공분산을 계통학적 거리(예: 공통 조상까지의 분기 길이)와 함수적 커널(예: RBF, Matérn)으로 정의한다는 것이다. 이렇게 하면 전통적인 브라운 운동(BM)이나 오르니엔-웰치(OU) 모델이 갖는 ‘스칼라형’ 변이와 ‘시간에 따른’ 변이 개념을 함수 공간으로 자연스럽게 확장할 수 있다.

베이지안 프레임워크를 채택함으로써 사전분포는 GP의 하이퍼파라미터(진화 속도 σ², OU의 복원력 α, 함수 커널 파라미터 등)와 계통수 자체에 대한 불확실성을 모두 포함한다. 사후 추론은 관측된 말단 종의 함수 데이터를 입력으로, 조상 노드들의 함수형 사후분포를 얻는 ‘조건부 GP 회귀’를 수행한다. 이때 계통수 구조가 알려졌다면 표준 GP의 조건부 평균·공분산 공식에 계통학적 거리 행렬을 삽입하면 된다. 반대로 계통수가 불확실한 경우, 마르코프 체인 몬테카를로(MCMC) 혹은 변분 추론을 통해 계통수와 하이퍼파라미터를 동시에 샘플링한다.

모델 선택 측면에서는 변분 하한 혹은 베이지안 증거를 이용해 서로 다른 진화 속도 모델(예: 전체 트리 동일 σ² vs. 클레이드별 σ²) 혹은 서로 다른 계통수 후보를 비교한다. 또한, 함수형 형질의 주성분 분석(Functional PCA)과 결합하면 차원 축소 후 GP를 적용해 계산 효율성을 높일 수 있다.

실험에서는 간단한 합성 데이터와 실제 식물 성장 곡선 데이터를 사용해, 조상 함수 복원 정확도와 진화 속도 추정의 신뢰구간을 제시한다. 결과는 기존 스칼라 BM/OU 모델에 비해 함수형 정보를 보존하면서도 더 정교한 추론이 가능함을 보여준다.

이 논문의 주요 기여는 (1) 계통학적 거리와 함수 커널을 결합한 새로운 공분산 구조, (2) 조상 함수의 전체 사후분포를 제공하는 비모수 베이지안 추론 체계, (3) 모델 선택을 위한 베이지안 증거 계산 방법, (4) 기존 계통학적 모델을 함수형 데이터에 자연스럽게 확장한 이론적 프레임워크이다. 향후 고차원 함수형 ‘오믹스’ 데이터, 시간-공간 복합형 데이터, 그리고 불완전한 계통수에 대한 확장 가능성이 크다.