계층 베이지안 모델을 통한 혼합 개체군 기원 추정

본 논문은 새로운 개체군이 여러 출처 집단으로부터 유입된 비율을 추정하는 문제를 다루며, 특히 첫 세대 후손의 유전형 데이터를 활용한다. 전통적인 조건부 최대우도법은 출처 집단이 완전히 알려지고, 대립유전자 빈도가 정확히 측정된다는 가정에 의존하지만, 실제 현장에서는 이러한 가정이 깨진다. 이를 보완하기 위해 저자들은 베이지안 접근법을 채택하고, 유전형 데이터와 환경·인구학적 공변량을 하나의 계층 모델에 통합한다. **모델 구성** 1. **첫 단계 (Likelihood)** - 새 개체군의 각 개체 k는 어머니와 아버지가 각각 출처 i와 j에 속한다고 가정한다. - 동일 출처(i=j)에서는 무작위 교배와 하디–와인버그 평형을 가정해, 유전형 확률 P(y_k|ii)를 다항식 형태로 표현한다. - 서로 다른 출처(i≠j)에서는 두 부모로부터 유전자가 전달되는 두 가지 경우를 고려해 P(y_k|ij)를 정의한다. - 친화적 교배 정도를 나타내는 ω∈(0,1)를 도입하여, 전체 후손 중 ω 비율은 동일 출처 교배, 1‑ω 비율은 무작위 교배가 발생하도록 혼합 다항식 형태의 전체 likelihood를 만든다. 2. **두 번째 단계 (Prior for mixture proportions m)** - 기존 연구에서는 로그정규 변환을 이용하거나 Dirichlet‑Lognormal 사전을 사용했지만, 평균과 분산이 얽혀 해석이 복잡하고 기준 집단 선택에 민감했다. - 저자들은 (1‑ρ)/ρ·ϕ 형태의 파라미터화된 Dirichlet 사전 D((1‑ρ)/ρ·ϕ)를 채택하고, ϕ 자체를 또 다른 Dirichlet(η) 사전으로 계층화한다. - η_i의 로그는 선형 회귀식 log(η_i)=α_0+∑_{r=1}^p α_r G_{ri} 로 표현되며, G_{ri}는 출처 i에 대한 환경·인구학적 변수이다. - ρ∈(0,1)는 사전 분산을 조절하는 하이퍼파라미터로, ρ가 작을수록 사전 분산이 작아져 공변량 정보가 사후에 더 큰 영향을 미친다. 이는 F_ST와 연계된 해석을 가능하게 한다. 3. **전체 사후분포** - π(P,ω,m,ρ,ϕ,α|Y,N) ∝ p(Y|P,ω,m)·π(m|ρ,ϕ)·π(ϕ|α)·π(α)·π(ω)·p(N|P)·π(P) 로 구성된다. - 여기서 Y는 새 개체군의 유전형, N은 출처 집단의 대립유전자 카운트, P는 출처 집단의 대립유전자 빈도이다. - 사전은 비정보적(ω는 Uniform(0,1), P는 대칭 Dirichlet(1)), ρ와 α는 각각 Uniform(0,1)와 N(0,σ^2) (σ^2=10) 로 설정한다. **추정 방법** MCMC를 이용해 사후분포를 샘플링한다. Gibbs 샘플링으로 가능한 조건부 분포를 직접 그리며, Metropolis‑Hastings 단계는 ω와 ρ 같은 비표준 파라미터에 적용한다. 수렴 진단은 Gelman‑Rubin 통계와 트레이스 플롯을 사용한다. **시뮬레이션 연구** 세 가지 시나리오를 설정했다. - 시나리오 1: 중간 수준의 집단 분화, 8개의 로커스. - 시나리오 2: 높은 분화, 8개의 로커스. - 시나리오 3: 중간 분화, 16개의 로커스. 결과는 (i) 집단 분화가 클수록, (ii) 마커 수가 많을수록 m과 ω에 대한 사후 추정이 더 정확해짐을 보여준다. 특히 Dirichlet‑Dirichlet 사전은 공변량 효과 추정에서 변동성이 낮고, 95% 신뢰구간이 실제값을 포함하는 비율이 높았다. **실제 데이터 적용** 스코틀랜드 오크니 제도 회색물개 데이터를 사용했다. 출처 집단은 여러 섬의 기존 개체군이며, 환경 변수로는 섬 간 거리, 개체군 규모, 해수 온도 등을 포함했다. 모델은 기존 연구에서 사용된 Dirichlet‑Lognormal 사전보다 더 일관된 혼합 비율과 공변량 효과를 제공했다. 추정된 ω≈0.6은 새 개체군 내에서 친화적 교배가 강하게 작용함을 시사한다. 또한 거리와 혼합 비율 사이에 유의한 음의 관계가 발견되어, 가까운 출처가 더 큰 기여를 함을 확인했다. **주요 기여와 의의** 1. 유전형 데이터와 환경·인구학적 정보를 자연스럽게 결합한 계층 베이지안 프레임워크를 제시하였다. 2. 혼합 비율 사전에서 평균과 분산을 명확히 구분하는 Dirichlet‑Dirichlet 구조를 도입해 해석성을 높였다. 3. 친화적 교배를 나타내는 ω 파라미터를 모델에 포함시켜, 실제 혼합 개체군에서 흔히 발생하는 비무작위 교배 현상을 반영하였다. 4. 시뮬레이션과 실제 데이터 분석을 통해 기존 모델 대비 더 정확하고 안정적인 추정이 가능함을 입증하였다. 이러한 접근은 어류, 해양 포유류, 조류 등 다양한 생물군에서 혼합 개체군의 기원과 환경 요인의 영향을 정량화하고자 하는 연구에 널리 적용될 수 있다.