커널 기반 유전체 예측 모델의 REML 구현과 G×E×M 상호작용 분석

초록

본 논문은 고속 페노-, 제노-, 엔비로타이핑 데이터를 활용해 환경·관리 변수와 유전체 정보를 결합한 커널 기반 선형 혼합 모델을 표준 소프트웨어에서 REML 방식으로 직접 추정하도록 구현한다. 선형·비선형(가우시안) 커널과 환경별 이질적 유전 변동성을 동시에 모델링함으로써 G × E × M 상호작용을 효과적으로 포착하고, 실제 옥수수·밀 데이터에 적용해 예측 정확도가 크게 향상됨을 보인다.

상세 분석

이 연구는 다중 환경·다중 관리 시험(MET)에서 발생하는 복잡한 G × E × M 상호작용을 통계적으로 정교하게 모델링하기 위해 두 가지 핵심 아이디어를 결합한다. 첫째, 고해상도 환경 변수와 SNP 기반 유전체 정보를 각각 커널(Gram matrix)로 변환하고, 이를 Kronecker 혹은 Hadamard 연산을 통해 유전 공분산 구조에 삽입한다. 선형 커널은 원본 피처 간 내적을 그대로 사용하지만, 비선형 가우시안(RBF) 커널은 거리 기반 스케일 파라미터(밴드폭)를 도입해 환경 특성 간 복잡한 비선형 관계를 포착한다. 둘째, 기존 LMM 구현에서는 모든 환경에 동일한 유전 분산을 가정했으나, 여기서는 환경별(또는 관리별) 이질적 유전 분산을 허용하는 구조를 추가한다. 이를 위해 Σ_E⊗Σ_M⊗K_G 형태의 공분산 행렬을 정의하고, Σ_E와 Σ_M을 각각 비구조적 상관 행렬 혹은 커널 기반 행렬로 지정한다.

핵심 기술적 공헌은 이러한 복합 공분산 구조를 기존 R 패키지(예: rrBLUP, lme4)에서 REML 추정이 가능하도록 변형한 점이다. 특히 가우시안 커널의 밴드폭 파라미터를 교차 검증이 아닌 REML 최적화 과정에서 동시에 추정함으로써 파라미터 탐색 비용을 크게 절감한다. 모델 파라미터는 (i) 고정 효과 β, (ii) 유전 효과 u, (iii) 환경·관리 상호작용을 설명하는 커널 파라미터, (iv) 잔차 분산 σ²_ε 로 구성되며, 모두 제한 최대우도법으로 추정된다.

실험에서는 옥수수와 밀의 실제 MET 데이터를 사용해 네 가지 모델을 비교하였다. (1) 기본 ADD 모델(단일 유전 분산), (2) 고차원 요인분석(FA) 모델, (3) 단일 분산 선형 커널(SV‑LK) 모델, (4) 비선형 커널과 이질적 분산을 결합한 확장 모델. 결과는 비선형 커널과 환경별 이질적 분산을 포함한 모델이 가장 높은 유전 변동 설명률과 예측 정확도를 제공함을 보여준다. 또한, 커널 기반 모델이 환경 변수만으로 설명되지 못하는 잔여 G × E를 별도 “lack‑of‑fit” 성분으로 분리해 해석 가능하게 만든 점도 주목할 만하다.

이 논문의 의의는 (a) 복잡한 G × E × M 구조를 기존 LMM 프레임워크 안에서 효율적으로 추정할 수 있는 구현을 제공하고, (b) 비선형 커널과 이질적 분산을 동시에 활용함으로써 고차원 엔비로타입 데이터를 실제 육종 프로그램에 적용 가능한 수준으로 전환했다는 점이다. 향후 다중 커널 결합, 환경 변수 선택, 베이지안 사전 설정 등으로 모델을 확장할 여지가 충분히 남아 있다.