나무 거리와 클러스터링을 이용한 진화와 데이터 분석 혁신

초록

본 논문은 Billera‑Holmes‑Vogtmann(BHV) 거리 개념을 구현하여, 계통수와 계층적 군집 트리를 동일한 수학적 틀에서 비교·분석한다. BHV 공간이 CAT(0)라는 음의 곡률 특성을 이용해 트리들의 평균(프랙탈 트리)을 정의하고, 이를 다차원 척도법(MDS)과 대비한다. 마이크로어레이 데이터에 대한 계층적 군집 트리를 대상으로 열·행의 영향력을 정량화하는 사례를 제시한다.

상세 분석

이 연구는 2001년 Billera, Holmes, Vogtmann이 제안한 트리 공간(metric space of phylogenetic trees)을 실용적인 도구로 전환한다는 점에서 학술적·응용적 의미가 크다. BHV 거리란 두 트리를 연결하는 최단 경로를 트리 공간의 각 orthant(각각 고정된 토폴로지를 가진 유클리드 부분공간) 안에서 직선 거리로 계산한 뒤, 필요에 따라 orthant 간 전이를 허용해 전체 공간에서의 지오데식(geodesic)을 구하는 방식이다. 이때 공간은 비양의 곡률을 갖는 CAT(0) 공간으로, 모든 두 점 사이에 유일한 최단경로가 존재하고 평균 트리(프랙탈 트리)를 정의할 수 있다. 논문은 이러한 이론적 배경을 바탕으로, 기존에 파이썬·R 등에서 구현된 BHV 거리 계산기를 재구현하고, 효율성을 높이기 위해 C++ 기반의 병렬 처리와 메모리 최적화를 적용하였다.

구현된 알고리즘은 (1) 토폴로지 매칭 단계에서 최소 스패닝 트리(MST) 기반의 히스토그램 정렬을 사용해 두 트리의 내부 노드 대응을 찾고, (2) 각 orthant 내에서 유클리드 거리 계산을 수행하며, (3) orthant 전이 비용을 최소화하는 동적 계획법(DP)으로 전체 지오데식을 구한다. 특히, 토폴로지 차이가 큰 경우에도 효율적인 탐색을 위해 히스토그램 기반의 프루닝(pruning) 전략을 도입해 계산 복잡도를 O(n^2)에서 평균 O(n log n) 수준으로 낮췄다.

응용 측면에서는 두 가지 주요 사례를 제시한다. 첫째, 다수의 계통수 추정 결과를 BHV 거리 행렬로 변환한 뒤, 다차원 척도법(MDS)으로 시각화한다. 이때 MDS는 유클리드 공간에 투영되므로 거리 왜곡이 발생하지만, BHV 공간 자체가 CAT(0)라 평균 트리를 직접 계산해 “트리 중심”을 구할 수 있다. 평균 트리는 각 토폴로지와 가지 길이의 가중 평균으로 정의되며, 이는 군집 구조의 전반적 안정성을 정량화한다. 둘째, 마이크로어레이 데이터에 대해 계층적 군집을 수행하고, 얻어진 덴드로그램을 BHV 거리로 비교한다. 열(유전자)이나 행(샘플)을 하나씩 제거하거나 교체했을 때 거리 변화량을 측정함으로써, 특정 유전자가 군집 구조에 미치는 영향도와 특정 샘플이 전체 트리 형태에 끼치는 영향을 정량적으로 평가한다. 이러한 영향력 분석은 기존의 부트스트랩이나 퍼뮤테이션 검정보다 직관적이며, 트리 구조 자체의 변형을 직접 관찰할 수 있다는 장점이 있다.

또한, 논문은 BHV 거리 기반 평균 트리와 MDS 기반 유클리드 평균을 비교 실험한다. 실험 결과, 평균 트리는 원본 트리들의 토폴로지 다양성을 보존하면서도 거리 왜곡이 최소화되는 반면, MDS는 고차원 구조를 2~3차원으로 압축하면서 중요한 토폴로지 차이를 손실한다는 점을 확인했다. 이는 특히 대규모 유전체 데이터나 복잡한 사회 네트워크 분석에서, 트리 자체를 비교·시각화하는 것이 더 신뢰할 수 있는 해석을 제공함을 시사한다.

마지막으로, 구현된 도구는 오픈소스로 제공되며, 입력 형식은 Newick, Nexus, 그리고 일반적인 거리 행렬을 지원한다. 사용자는 파이썬 인터페이스를 통해 트리 집합을 로드하고, BHV 거리 행렬을 계산한 뒤, 평균 트리와 클러스터링 결과를 바로 시각화할 수 있다. 향후 연구 방향으로는 트리 공간 위에서 베이지안 사후분포를 직접 샘플링하는 MCMC 알고리즘 개발과, 대규모 데이터(수천 개 트리)에서의 근사 지오데식 계산을 위한 랜덤 프로젝션 기법 도입을 제안한다.