유전·공간 이질성을 활용한 종 구분 방법

초록

본 논문은 유전적 거리와 지리적 거리를 동시에 고려하여 두 집단이 동일 종에 속하는지를 검정하는 통계적 방법들을 비교한다. 기존의 부분 맨텔 검정과 거리‑거리 회귀를 포함해, 혼합효과 모델, 부트스트랩, 그리고 개별‑레벨 잭나이프를 적용한 새로운 부분 맨텔 검정을 제안한다. 시뮬레이션(SLiM·GSpace) 결과, 잭나이프 기반 부분 맨텔 검정이 유의 수준을 유지하면서 충분한 검정력을 보였으며, 혼합효과 모델은 검정력이 높지만 약간의 1종 오류 초과 경향을 보였다. 실제 브래시링클 데이터에 적용한 결과도 일관되게 나타났다.

상세 분석

이 연구는 종 구분에서 유전적 거리와 지리적 거리 사이의 관계를 정량화하는 것이 핵심이라고 주장한다. 기존 방법인 부분 맨텔 검정(PMT)은 두 거리 행렬 사이의 부분 상관을 퍼뮤테이션으로 평가하지만, 거리 데이터는 동일 개체를 공유하므로 독립성 가정이 위배된다. 저자들은 이를 보완하기 위해 세 가지 새로운 접근법을 도입한다. 첫째, 개별을 랜덤 효과로 모델링한 혼합효과 모델은 거리 간 의존성을 직접 추정한다. 이 모델은 유전 거리 = β₀ + β₁·지리 거리 + β₂·그룹 지시 변수 + u_i + ε_ij 형태이며, u_i는 개체 i의 랜덤 효과이다. 둘째, 부트스트랩 방법은 개체 단위 재표본을 통해 부분 상관계수의 경험적 분포를 구축한다. 셋째, 기존 PMT의 퍼뮤테이션 대신 개별을 잭나이프(leave‑one‑out) 방식으로 제외하면서 부분 상관을 재계산하는 ‘잭나이프‑PMT’를 제안한다. 이 절차는 각 개체를 제외했을 때의 상관계수를 평균해 편향을 감소시키고, 표준오차를 직접 추정한다.

시뮬레이션에서는 SLiM과 GSpace를 이용해 다양한 이주·번식 시나리오와 공간 구조를 가진 메타‑인구를 생성하였다. 주요 평가지표는 제1종 오류율(α)와 검정력(1‑β)이다. 결과는 다음과 같다. (1) 전통적인 PMT는 퍼뮤테이션 수가 제한적일 때 과도한 1종 오류를 보였으며, 검정력도 낮았다. (2) 잭나이프‑PMT는 명목 α = 0.05를 거의 정확히 유지하면서 평균 검정력이 0.78 정도로 가장 균형 잡힌 성능을 보였다. (3) 혼합효과 모델은 검정력이 0.85로 가장 높았지만, 일부 시뮬레이션에서 1종 오류가 0.07‑0.09까지 상승했다. (4) 부트스트랩은 평균 검정력이 0.73으로 중간 수준이었으며, 오류율은 명목 수준에 근접했다.

실제 데이터 적용에서는 브래시링클(Brassy ringlets) 종군을 대상으로 세 쌍의 그룹을 비교하였다. 로그 변환된 지리 거리와 공유 대립유전자 거리 사이의 관계를 시각화한 뒤, 각 방법으로 ‘동일 종’ 가설을 검정했다. 잭나이프‑PMT와 혼합효과 모델 모두 두 번째 그룹 쌍에서는 유의미한 차이를 발견했으며, 첫 번째와 세 번째 쌍에서는 차이가 없음을 확인했다. 이는 기존 연구와 일치하는 결과이며, 제안된 방법들의 실용성을 뒷받침한다.

전반적으로 이 논문은 거리‑거리 분석에서 발생하는 의존성 문제를 통계적으로 정교하게 다루면서, 종 구분에 필요한 검정 도구들을 체계적으로 비교한다. 특히 잭나이프‑PMT는 구현이 간단하면서도 오류 제어와 검정력 사이의 좋은 절충점을 제공한다는 점에서 실무 적용 가능성이 높다.