고차원 확률미분 혼합효과 모델의 실용적 추정법

본 논문은 확률미분방정식(SDE)을 이용해 물리·생물 현상의 동역학을 모델링하고, 이러한 모델을 집단 수준 데이터에 적용하기 위해 혼합효과 구조를 도입한 확률미분 혼합효과 모델(SDMEM)을 제안한다. 전통적인 혼합효과 모델은 고정효과와 무작위 효과를 구분해 개인 간 변이를 설명하지만, 동역학 자체에 내재된 불확실성을 반영하지 못한다. 반면, SDMEM은 각 실험 단위 i에 대해 동일한 drift와 diffusion 형태를 갖는 d 차원 SDE dX_i(t)=μ(X_i(t),θ,b_i)dt+σ(X_i(t),θ,b_i)dW_i(t), X_i(0)=x_i0 를 정의하고, 개인별 파라미터 b_i를 무작위 효과로 모델링한다. 여기서 θ는 전체 집단에 공통인 고정효과, Ψ는 b_i의 분포를 기술하는 하이퍼파라미터이다. 관측은 각 단위 i에 대해 동일한 시간 격자 {t_i0,…,t_in_i}에서 이루어지며, 측정오차는 무시한다는 전제가 있다. 우선, 로그우도 L(θ,Ψ)=∏_{i=1}^M∫ p_X(x_i|b_i,θ)p_B(b_i|Ψ)db_i 를 정의한다. 전이밀도 p_X는 일반적으로 닫힌 형태가 없으므로, 저자들은 Aït‑Sahalia(2008)의 Hermite 급수 전개를 차용해 로그전이밀도 ln p_X를 K 차까지 테일러 전개한 식 (6)으로 근사한다. 이 과정에서 확산 행렬을 단위 행렬로 만드는 Lamperti 변환 γ(x)를 적용한다. 변환 후의 과정 Y_t=γ(X_t)는 거의 정규분포에 가까워져 Hermite 전개가 효율적으로 작동한다. 다변량 SDE에 대한 변환과 계수 C^{(k)}_Y는 부록에 상세히 제시되며, 실제 계산은 심볼릭 툴(예: Mathematica)과 자동 미분(AD) 라이브러리를 이용해 자동화한다. 다음으로, 무작위 효과 b_i에 대한 적분을 라플라스 근사로 처리한다. f(b_i|θ,Ψ)=log p_X(x_i|b_i,θ)+log p_B(b_i|Ψ) 를 정의하고, ˆb_i=argmax f를 구한 뒤 헤시안 H_i를 계산한다. 라플라스 근사에 의해 로그우도는 log L≈∑_{i=1}^M