EM 알고리즘으로 보는 REML과 ML의 차이와 교육적 활용

초록

본 논문은 선형 혼합모형의 EM 알고리즘 구현 과정에서 최대우도(ML)와 제한최대우도(REML) 추정이 동일한 혼합모형 방정식을 사용하지만, 분산성분 업데이트 단계의 트레이스 조정에만 차이가 있음을 보여준다. ML은 조건부 공분산을, REML은 Henderson의 C‑행렬이 제공하는 예측오차 공분산을 사용한다. 간결한 R 코드와 lme4와의 검증을 통해 교육용 예시를 제공한다.

상세 분석

논문은 선형 혼합모형 y = Xβ + Zη + ε (η ∼ N(0,G), ε ∼ N(0,R))을 기본으로 EM 알고리즘을 전개한다. E 단계에서는 현재의 G와 R에 대해 η의 조건부 평균 ˆη와 조건부 공분산 V(η|y) = (ZᵀR⁻¹Z + G⁻¹)⁻¹를 계산한다. 이때 β는 Henderson 방정식 M ·