연결신경망을 이용한 LD 감쇠 모델링으로 최근 유효집단크기 추정

초록

LinkedNN은 SNP 쌍의 유전체 거리별 LD 특성을 자동으로 학습하는 신경망 레이어를 도입해, 소규모 샘플(10개 개체)과 제한된 변이(5 000 SNP)만으로도 최근 유효집단크기(Nₑ)를 기존 CNN·통계 기반 방법보다 높은 정확도로 추정한다. 거리별 라디얼 기저함수와 거리‑조건부 가중치를 활용해 LD 신호를 효율적으로 추출하며, 비위상 데이터와 희소 마커에도 적용 가능하도록 설계되었다.

상세 분석

본 논문은 전통적인 LD 기반 Nₑ 추정이 “거리 구간을 임의로 구분하고 평균화”하는 과정에서 발생하는 정보 손실을 신경망 구조 자체에 통합함으로써 해결한다는 점이 핵심이다. 먼저 SNP 쌍을 로그‑균등하게 샘플링해 전체 가능한 쌍의 𝑂(M²) 복잡도를 𝑂(M) 수준으로 축소한다. 각 쌍에 대해 비위상 유전체를 마이너 알렐 카운트 형태로 입력하고, 공유 가중치의 포지션‑와이즈 레이어를 통해 64 차원의 초기 유전적 특징을 추출한다. 여기서 중요한 차별점은 거리 정보를 별도의 라디얼 기저함수(RBF)로 변환해 로그 공간에 균등하게 배치된 µₖ 중심을 갖게 함으로써, 거리별 연속적인 “소프트 빈”을 만든다. RBF 출력은 K≈⌈log L⌉ 차원이며, 각 차원은 해당 거리 구간에 대한 가중치 sₚ를 학습한다. 이 가중치는 유전적 특징 gₚ와 원소별 곱셈(g′ₚ = gₚ ⊙ sₚ)으로 결합돼, 거리‑조건부로 특징을 증폭 혹은 억제한다. 결과적으로 모델은 “짧은 거리에서는 강한 LD 신호, 중간 거리에서는 감쇠된 신호” 등을 자동으로 파악한다.

학습 단계에서는 시뮬레이션 데이터(10개 개체, 5 000 SNP)를 사용해 두 에포크 모델(최근 Nₑ와 과거 Nₑ)을 동시에 추정하도록 설계했으며, 최종 레이어는 5개의 Dense 층으로 구성된 회귀 헤드다. 파라미터 수는 전통적인 CNN보다 현저히 적지만, 모든 SNP 쌍을 처리하므로 연산 비용이 다소 증가한다. 성능 평가는 1 000개의 보류 시뮬레이션에 대해 평균 상대 절대 오차(MRAE) 기준으로 진행했으며, LD 레이어는 MRAE 0.380으로 기존 pairwise‑CNN(0.422), 요약통계‑RF(0.456), 기본 CNN(0.511)보다 우수했다. 거리‑조건부 가중치 sₚ를 시각화한 결과, 5×10⁵–5×10⁶ bp 구간에서 다수의 가중치가 최고값을 보였으며, 이는 작은 Nₑ 시뮬레이션에서 LD 감쇠 곡선의 변곡점과 일치한다. 이는 모델이 실제 LD 감쇠 패턴을 학습했음을 강력히 시사한다.

실제 데이터 적용에서는 북대서양 해양돌고래(Pho­cena phocoena)의 10개 개체와 5 000 SNP를 사용해 최근 Nₑ≈1 400(범위 1 119–1 659)와 과거 Nₑ≈5 900을 추정했다. 추정된 인구 규모 변화 시점은 약 42세대 전(≈501년)이며, 이는 기존 마코프 연쇄 기반 방법이 최근 역사를 과소평가하는 문제를 보완한다. 논문은 또한 LD 정보가 재조합율과 인구 구조에 민감하므로, 복잡한 인구역사(예: 다중 병목, 이주)에서는 추가적인 피처와 다른 아키텍처와의 결합이 필요함을 언급한다. 향후 연구 방향으로는 LD 레이어를 지리적 거리 레이어와 결합하거나, 그래프‑컨볼루션 기반 메시지 패싱을 도입해 다중 스케일 정보를 동시에 학습하는 방안을 제시한다. 전체적으로 이 접근법은 희소하고 비위상인 데이터에서도 LD 기반 인구역사 추정을 자동화·고도화할 수 있는 실용적인 도구임을 입증한다.