효율적인 AI‑REML 반복 구현을 통한 분산 성분 QTL 분석

초록

본 논문은 QTL 매핑에 사용되는 분산 성분 모델의 AI‑REML 알고리즘을 고속화하기 위해, 동일 혈통(IBD) 행렬을 정확하거나 근사적인 저‑랭크 형태로 표현하고 Woodbury 공식으로 행렬 연산을 최적화한다. 정확한 저‑랭크 표현이 사전에 주어질 경우 기존 구현 대비 거의 두 배의 속도 향상을 보이며, 근사 경우에도 스펙트럴 분해를 통한 차원 축소로 상당한 계산 효율을 달성한다.

상세 분석

AI‑REML(average information restricted maximum likelihood) 알고리즘은 변이 성분을 추정할 때 로그우도와 그 2차 미분 정보를 이용해 뉴턴‑유사 반복을 수행한다. QTL 분석에서는 개체 간 유전적 유사성을 나타내는 IBD(identity‑by‑descent) 행렬 K가 공분산 구조의 핵심이 되며, K는 보통 N × N 크기의 밀집 행렬이다. 따라서 매 반복마다 K와 그 역행렬을 직접 계산하면 O(N³) 비용이 발생해 수천~수만 개 샘플을 다루는 경우 비현실적이다.

저자들은 K를 저‑랭크 형태 K ≈ U Uᵀ (U는 N × r, r ≪ N) 로 표현하면, Woodbury 행렬 역전 공식
(K + σ²I)⁻¹ = σ⁻²