비선형 혼합효과 모델에서 영패턴을 가진 공분산 행렬 추정 새로운 방법

초록

본 논문은 비선형 혼합효과 모델의 가우시안 랜덤 효과 공분산 행렬에 미리 지정된 영(0) 패턴(패턴 오브 제로, PPZ)이 존재할 때, 최대우도추정(MLE)을 수행하기 위한 새로운 알고리즘을 제안한다. 최근 개발된 반복 조건부 적합(Iterative Conditional Fitting, ICF) 절차와 기대-최대화(Expectation‑Maximization, EM) 절차를 결합하여, 표본 크기에 관계없이 양정(positive‑definite)인 추정치를 보장하고, PPZ 구조에 대한 별도 가정 없이 적용 가능하도록 설계되었다. 또한 다양한 EM 변형에 손쉽게 적용할 수 있다.

상세 분석

이 연구는 비선형 혼합효과 모델(NLME)에서 랜덤 효과의 공분산 행렬 Σ가 특정 위치에 영값을 가져야 하는 제약, 즉 Prescribed Pattern of Zeros(PPZ)를 만족하도록 추정하는 문제에 초점을 맞춘다. 전통적인 방법들은 PPZ를 만족시키기 위해 구조적 가정을 강요하거나, 샘플 크기가 충분히 클 때만 수치적으로 안정적인 해를 제공한다는 한계가 있다. 저자들은 이러한 제약을 자연스럽게 통합할 수 있는 두 단계 알고리즘을 제안한다. 첫 번째 단계는 EM 알고리즘의 E‑step에서 현재 파라미터값을 이용해 랜덤 효과의 조건부 기대값과 공분산을 계산한다. 여기서 얻어진 ‘완전 데이터’의 충분통계량은 Σ에 대한 추정 문제를 단순화한다. 두 번째 단계는 ICF를 적용해 Σ를 업데이트한다. ICF는 각 행·열을 순차적으로 조건부 최대우도 추정으로 갱신하면서, 행·열 간의 상호 의존성을 고려한다. 핵심은 각 업데이트가 Σ의 양정성을 유지하도록 설계된 점이다. PPZ 제약은 ICF 단계에서 해당 원소를 0으로 고정하고, 나머지 원소만을 조건부 최적화함으로써 자연스럽게 반영된다. 이 과정은 수렴성을 보장하며, 샘플 크기가 작아도 행렬이 비특이적(singular)이 되지 않는다. 또한, ICF는 행·열 순서를 바꾸어도 동일한 최적해에 수렴하도록 설계돼 있어, 초기값에 대한 민감도가 낮다. 저자들은 ICF‑EM 결합이 기존의 ‘패턴 고정’ 방법(예: 구조적 제로 가정, 차원 축소)보다 더 일반적이며, 다양한 EM 변형(예: Monte‑Carlo EM, Stochastic EM)에도 동일한 방식으로 삽입될 수 있음을 증명한다. 실험에서는 시뮬레이션과 실제 약동학 데이터에 적용해, 추정 정확도와 수렴 속도가 기존 방법에 비해 현저히 개선됨을 보여준다. 특히, PPZ가 복잡하게 얽힌 경우에도 행렬의 양정성을 유지하면서 정확한 파라미터 추정이 가능함을 확인하였다. 이 알고리즘은 비선형 혼합효과 모델을 사용하는 약물동태학, 성장곡선, 환경 모델링 등 다양한 분야에 바로 적용될 수 있다.