새로운 gAIC와 gAICc, gBIC 및 파워 다이버전스 적합 통계가 현대인·네안데르탈인·기타 고인류 간 교배를 밝히다

초록

본 논문은 기존 AIC·BIC와 유사한 정보 기준인 g%SD를 확장해 g%AIC·g%AICc·g%BIC를 도입하고, 파워 다이버전스 계열을 적용한 새로운 적합 통계들을 제시한다. 이를 유전 거리 데이터와 네안데르탈·데니소바·현대인 유전체에 적용해 고인류 간 유전적 교류, 특히 호모 에렉투스가 데니소바인에 남긴 유전적 흔적을 검증한다.

상세 분석

이 연구는 통계적 모델 선택에서 가장 널리 쓰이는 AIC와 BIC가 모델 복잡도(파라미터 수)를 벌점 형태로 조정하는 반면, 기존에 제안된 g%SD는 관측값과 모델 예측값 사이의 정규화된 가중 평균 제곱 백분율 편차를 직접 측정한다는 점에 주목한다. g%SD는 0에 가까울수록 모델이 데이터를 완벽히 설명한다는 의미지만, 파라미터 수에 대한 벌점이 명시적으로 포함되지 않아 과적합 위험이 존재한다. 저자들은 이를 보완하기 위해 g%SD에 AIC·AICc·BIC와 동일한 형태의 벌점을 삽입, 각각 g%AIC, g%AICc, g%BIC를 정의한다. 여기서 ‘g%’는 기존 g%SD의 비율 스케일을 유지하면서, 로그우도 대신 g%SD를 사용해 정보 기준을 재구성한다는 점이 핵심이다.

또한, 적합도 평가에 사용되는 전통적인 최소제곱(SS) 대신 파워 다이버전스(Power Divergence) 계열을 도입한다. 파워 다이버전스는 λ 파라미터에 따라 G²(최대우도)와 X²(최소제곱) 등 다양한 통계량을 포함하는 일반화된 거리 측도이며, λ=0이면 G², λ=1이면 X²에 해당한다. 이를 g%SD에 통합하면 g%PD(파워 다이버전스 기반 g%SD) 형태가 되며, 데이터 특성에 맞는 λ 값을 선택함으로써 보다 강건한 모델 적합성을 평가할 수 있다.

실증 분석에서는 두 가지 데이터셋을 사용한다. 첫 번째는 유대인 집단 간의 유전 거리 행렬이며, 두 번째는 현대인, 네안데르탈인, 데니소바인, 그리고 호모 에렉투스(추정) 유전체를 포함한 거리 행렬이다. 각각에 대해 기존 AIC·BIC와 새로 제안한 g%AIC·g%BIC, 그리고 다양한 λ 값을 갖는 g%PD를 계산한다. 결과는 다음과 같다.

1. 유대인 집단에서는 기존 AIC/BIC와 거의 동일한 모델 순위가 도출되지만, g%PD(λ≈0.5)에서는 미세한 차이가 나타나며, 이는 특정 인구 간 미세한 유전적 교류를 더 민감하게 포착한다.
2. 고인류 데이터에서는 기존 AIC/BIC가 네안데르탈·데니소바·현대인 삼각 관계만을 강조하는 반면, g%PD(λ=0)와 g%AIC는 호모 에렉투스와 데니소바 사이에 유의미한 유전적 기여를 시사한다. 특히, g%PD(λ=0)에서는 에렉투스 유전자가 데니소바 유전체의 약 3~5%를 차지한다는 추정값이 도출되어, 이전 연구에서 간과되던 고대 교배 사건을 재조명한다.

통계적 관점에서 가장 눈에 띄는 점은 g%SD 기반 정보 기준이 로그우도 대신 거리 기반 편차를 사용함으로써, 데이터가 비정규분포이거나 관측치가 희소한 경우에도 안정적인 모델 선택을 가능하게 한다는 것이다. 또한, 파워 다이버전스 λ 파라미터를 조정함으로써 과적합을 방지하면서도 실제 생물학적 신호를 강화할 수 있다.

이러한 방법론적 확장은 인류학·유전학 분야뿐 아니라, 환경·생태 데이터, 의료 통계 등 다양한 분야에서 복잡한 거리·비율 데이터를 다룰 때 유용하게 적용될 수 있다. 특히, 고대 DNA와 현대 유전체를 통합 분석할 때 발생하는 데이터 불균형과 높은 잡음 수준을 효과적으로 보정해줄 수 있다는 점이 큰 장점이다.