통합 프레임워크: 트리와 다차원 척도 및 평면 그래프

초록

본 논문은 가중치 최소제곱(fWLS) 방식을 이용해 계통수, 다차원 척도(MDS), 그리고 Neighbor Net을 동일한 확률론적 틀 안에서 비교한다. 다항식·지수형 가중치를 적용해 오차 구조를 모델링하고, 인구유전학 데이터(아브라함의 자손, 아프리카·유럽·중동 집단)를 대상으로 각 방법의 적합도와 견고성을 잔차 재표본화(residual resampling)로 평가한다. BIC 기준에서는 fWLS 트리가 우수하지만, 전체 적합도에서는 Neighbor Net이 가장 좋다. 그러나 Neighbor Net은 재표본화 후 구조가 불안정해 해석에 제한이 있다.

상세 분석

이 연구는 계통수 구축, 다차원 척도, 그리고 Neighbor Net이라는 세 가지 시각화 기법을 하나의 통계적 프레임워크로 통합하려는 시도이다. 핵심은 ‘flexi‑Weighted Least Squares(fWLS)’라는 가중 최소제곱 방법을 확장해, 오차 분포의 형태를 사전에 가정하지 않고 다항식(weight ∝ d^P) 혹은 지수식(weight ∝ e^{Q·d})으로 추정한다는 점이다. 이러한 가중치는 거리 d(예: 유전적 차이)에 따라 가중치를 조정함으로써, 실제 데이터에서 관찰되는 비선형적 오차 구조를 반영한다.

MDS에 동일한 가중치를 적용하면 ‘flexi‑Weighted MDS’가 탄생한다. 여기서는 전통적인 Sammon 스트레스 함수가 Q = 1, P = 1인 특수 경우에 해당한다는 점을 명시한다. 즉, Sammon은 거리의 역수에 비례하는 가중치를 사용해 작은 거리의 왜곡을 강조하는데, fWLS는 이를 일반화해 다양한 가중 함수 형태를 시험할 수 있게 한다.

논문은 인구유전학 데이터를 이용해 실증적 비교를 수행한다. ‘아브라함의 자손’이라 불리는 아랍·유대인 집단을 아프리카 외부군 및 여러 유럽 집단과 비교했으며, 각 방법별 로그우도, AIC, BIC, 그리고 교차 검증 점수를 산출했다. 결과는 흥미롭게도 Neighbor Net이 로그우도와 AIC에서는 가장 높은 적합도를 보였지만, BIC(복잡도 패널티)에서는 fWLS 트리가 우위를 차지했다는 점이다. 이는 Neighbor Net이 복잡한 네트워크 구조를 통해 데이터에 과적합(over‑fit)될 가능성을 시사한다.

또한, 잔차 재표본화(residual resampling)를 통해 모델의 견고성을 검증했다. 이 과정에서 Neighbor Net은 재표본화 후 핵심적인 분기 구조가 크게 변동하여, 네트워크의 신뢰 구간이 넓어졌다. 반면, fWLS 트리는 주요 내부 분기가 높은 부트스트랩 지지를 받아, BIC가 선호하는 간결한 트리 구조가 실제 데이터의 핵심 신호를 잘 포착하고 있음을 보여준다.

마지막으로, 모든 모델이 표본 오차만으로는 설명되지 않는 큰 잔차를 보였으며, 이는 유전적 전이(gene flow), 혼합(admixture), 혹은 측정 오류와 같은 복합적인 요인이 존재함을 암시한다. 따라서 단일 모델에 의존하기보다는 여러 시각화 기법을 병행해 해석하는 것이 바람직하다는 결론을 도출한다.